Z izbruhom druge svetovne vojne je nemško vojaško vrhovno poveljstvo (OKH) prevzelo svojo organizacijo v času vojne. Heusinger je spremljal osebje na terenu in pomagal pri načrtovanju operacij za invazije na Poljsko, Dansko
, Norveška, Francija in Nizozemska. 1. avgusta 1940 je bil povišan v polkovnika in oktobra 1940 postal vodja "Operationsabteilung", s čimer je postal tretji v hierarhiji načrtovanja vojske, po načelniku generalštaba generala Francu Halderju in namestniku načelnika generalštaba / glavnem upravitelju, generalu Friedrichu Paulusu.