Efter den tyske invasion af Grækenland i 1941 overførte nazisterne ham til koncentrationslejren i Dachau, hvorfra han blev løsladt i maj 1945. Da han vendte tilbage til Grækenland, overtog han igen ledelsen af KKE fra Georgios Siantos, fungerende generalsekretær for KKE siden januar 1942. Den forbandede Dekemvriana.
begivenheden var netop endt med kommunistisk nederlag. Zachariadis erklærede nu sin politiske hensigt om, at KKE skulle kæmpe for demokrati og folkets magt gennem valg.