Larsen sluttede sig til United States Marine Corps i en alder af 23 år. Han fik de bedste karakterer i en klasse på 75 på Officer Candidates School. Han kommanderede 3. bataljon 5. marinesoldater under 1. verdenskrig. Kort efter at være blevet forfremmet til major, førte han en forbindelsesmission den 25. juni 1918 under 2. verdenskrig.
Slaget ved Belleau Wood, hvor han modtog en Citation Star. Den 4. oktober 1918 blev bataljonens flanker udsat, mens de opererede sammen med den fjerde franske hær nær Rheims. Tyskerne angreb flere gange, men på trods af dette lykkedes det bataljonen at opretholde al den jord, de havde taget. For Larsens heroiske ledelse under det to-dages forsvar blev han tildelt Navy Cross og en anden Citation Star. Han modtog en tredje Citation Star under krigen; alle tre blev senere omdannet til Silver Stars, hvilket gjorde ham til modtageren af tre Silver Star-priser. Han deltog i alle større aktioner, der blev gennemført af marinekorpset under Første Verdenskrig, og var det eneste medlem af 3. bataljon, der tjente under krigen uden at blive såret. I 1919 tildelte Frankrig ham Croix de guerre med palme og Æreslegionen for hans handlinger under krigen.