Fra den 5. maj 1942 til den 28. november 1944 var Oberg øverste SS- og politichef i "Frankreich" (Frankrig) over alle tyske politistyrker i Frankrig, herunder SD og Gestapo. Han var den øverste myndighed i Frankrig for styring af anti-jødisk politik og kampen mod den franske modstandsbevægelse. I 1942, kort efter sin ankomst, udstedte han dekretet om jødisk badge til identifikation, støttede opsamlingen af 13.152 jøder i Paris Vélodrome d'Hiver (Vel' d'Hiv Roundup
), og beordrede massehenrettelse af gidsler som gengældelse for handlinger i den franske modstand. På det tidspunkt var han blevet dømt til at være "Slagteren i Paris". På Heydrichs ordre deporterede Oberg over 40.000 jøder fra landet med hjælp fra Vichy-Frankrigs politistyrke ledet af René Bousquet.