Setelah invasi Jerman ke Yunani, pada tahun 1941 Nazi Jerman memindahkannya ke kamp konsentrasi Dachau, dari mana ia dibebaskan pada bulan Mei 1945. Kembali ke Yunani, ia kembali mengambil alih kepemimpinan KKE dari Georgios Siantos, yang bertindak sebagai sekretaris jenderal KKE sejak Januari 1942. Dekemvriana berdarah
peristiwa baru saja berakhir dengan kekalahan komunis. Zachariadis sekarang menyatakan niat politiknya untuk KKE untuk memperjuangkan demokrasi dan kekuasaan rakyat melalui pemilihan.