I 1931 meldte Soglo sig frivilligt ind i den franske hær. Han kæmpede under Anden Verdenskrig, tjente i Marokko og deltog i de allieredes landinger på Korsika, Elba og
Sydfrankrig. Han blev forfremmet til løjtnant, og ved krigens afslutning blev han udnævnt til stabsofficer i den franske koloniale hær. I 1947 blev han tilknyttet det franske oversøiske ministerium som militærrådgiver. Han sikrede sig rangen kaptajn den 1. januar 1950 og blev sendt til Fransk Indokina og kæmpede i Første Indokina Krig. Han blev tildelt Croix de Guerre i 1956 for sin tjeneste under krigen. Der mødte han en fransk-vietnamesisk kvinde, som han senere giftede sig med. Efter Frankrigs nederlag i Indokina fik han rang af major og blev stationeret i Senegal, hvor han forblev indtil 1960. Efter at Benin opnåede uafhængighed i 1960, fik Soglo rang af oberst i hæren og blev stabschef under præsident Hubert Maga.