Med udbruddet af Anden Verdenskrig overtog den tyske hærs øverstkommando (OKH) sin krigstidsorganisation. Heusinger ledsagede feltpersonalet og hjalp med planlægningen af operationer for invasionen af Polen, Danmark
, Norge, Frankrig og Nederlandene. Han blev forfremmet til oberst den 1. august 1940 og blev chef for "Operationsabteilung" i oktober 1940, hvilket gjorde ham til nummer tre i hærens planlægningshierarki, efter chefen for generalstaben, general Franz Halder, og vicechefen for generalstaben / chefquartermaster, general Friedrich Paulus.