På grund af antisemitisme og forfølgelse i 1920'erne og 1930'erne var Königsbergs jødiske befolkning i tilbagegang, da nazistpartiet tog kontrollen gennem "Machtergreifung" i 1933. I det år boede der kun 3.500 jøder i byen. Anti-jødisk lovgivning i førkrigstidens Nazityskland, håndhævet af Erich Koch, begrænsede forretninger og førte mange Königsberg-jøder til at emigrere, for det meste til USA og Storbritannien. Michael Wieck skrev om den diskrimination han blev udsat for af Hitlerjugend. Ved åbningen af Ostmesse i 1935 kritiserede Hjalmar Schacht forfølgelsen uden held. Forfølgelse førte det jødiske samfund til at oprette en separat jødisk skole for 82 elever i april 1935; den voksede til at omfatte 180 elever i 6 klasser med 4 lærere i oktober 1935. I februar 1938 offentliggjorde propagandabladet "Der Student der Ostmark" navnene på 201 jødiske forretningsfolk, 38 læger og 22 advokater, der var tilbage i byen, som blev brugt af Sturmabteilung under Natten med Brækket Glas
i november 1938. Den nye synagoge blev nedbrændt, den ortodokse Adass Jisroel synagoge og to kirkegårde blev vandaliseret; den jødiske skole blev angrebet, men genåbnet bagefter, ligesom den ortodokse synagoge, hvor Michael Wieck blev Bar Mitzva i midten af 1941. Mange af de jødiske indbyggere blev sendt til nazisternes koncentrationslejre i Tyskland.