Yeagers karriere begyndte i Anden Verdenskrig som soldat i den amerikanske hær. Han blev tildelt hærens luftvåben i 1941. Efter at have tjent som flymekaniker, i september 1942, han indskrevet pilot uddannelse og efter endt uddannelse blev forfremmet til rang af flyveofficer (Anden Verdenskrig Army Air Force version af hærens warrant officer), senere opnå de fleste af sine luft sejre som en P-51 Mustang jagerpilot på den vestlige front
, hvor han blev krediteret med at nedskyde 11,5 fjendtlige fly (halv kredit er fra en anden pilot, der assisterede ham i en enkelt nedskydning). Den 12. oktober 1944 opnåede han "ace in a day"-status ved at nedskyde fem fjendtlige fly på én mission.