I september 1940 grundlagde Aboulker et modstandsnetværk i Algier i samarbejde med sin fætter Roger Carcassonne, der havde gjort det samme i Oran, og Aboulker blev efterfølgende en af de vigtigste ledere af modstandsbevægelsen i pro-nazistiske Vichy Algeriet. De to fætre mødte Henri d'Astier de la Vigerie, med hvem de forberedte sig til at støtte de forventede allierede landinger i Nordafrika
, i samarbejde med oberst Germain Jousse og den amerikanske konsul Robert Murphy, præsident Roosevelts repræsentant i Algier. Hovedkvarteret for forberedelsen var hans fars hus på Rue Michelet 26.