Mais tarde, como Ministro de Guerra do governo Afonso Pena, Hermes da Fonseca colocou o Exército em moldes modernos e criou em caráter permanente as grandes unidades, então representadas pelas chamadas brigadas estratégicas, tipo de organização adequada à realidade brasileira dessa quadra – 1908-14; introduziu o serviço militar obrigatório pela Lei n° 1860, de 4 de janeiro de 1908, com base no artigo 86 da Carta Constitucional: "todo brasileiro é obrigado a prestar o serviço militar"; modernizou o ensino militar; enviou três turmas de oficiais para estagiar junto ao Exército alemão (1906, 1908 e 1910).