Efter den fælles tysk-sovjetiske invasion af Polen, som startede Anden Verdenskrig i september 1939, blev Augustów besat
af Sovjetunionen indtil 1941. Mange indbyggere blev sendt i eksil til Kasakhstan, hvorfra nogle kunne vende tilbage efter 6 år. Den 22. juni 1941, lige før tyskerne erobrede byen, myrdede sovjetterne omkring 30-34 polske fanger i Augustów som en del af NKVD-fangemordene. De nazistiske tyske styrker besatte Augustów indtil 1944 og drev en tvangsarbejdslejr i byen. Anden Verdenskrig bragte ødelæggelsen af omkring 70% af byen og død eller afrejse af de fleste af sine beboere, blandt dem et samfund på flere tusinde jøder, der blev fængslet i ghettoen beliggende mellem kanalen og floden. Tyskerne henrettede næsten alle før de rejste. I 1945 gennemførte sovjetterne en rundsamling i nærheden af Augustów - en særlig operation mod tidligere antikommunistiske krigere fra Armia Krajowa.