Formet af tidligere eksisterende militser, var dets oprindelige formål at forsvare jødiske bosættelser mod arabiske angreb, såsom optøjerne i 1920, 1921,
1929 og under det arabiske oprør i Palæstina i 1936-1939. Det var under kontrol af det jødiske agentur, det officielle regeringsorgan med ansvar for Palæstinas jødiske samfund under det britiske mandat. Indtil slutningen af Anden Verdenskrig var Haganahs aktiviteter moderate, i overensstemmelse med politikken om havlaga ("selvbeherskelse"), hvilket forårsagede splittelsen af de mere radikale Irgun og Lehi. Gruppen modtog hemmelig militær støtte fra Polen. Haganah søgte samarbejde med briterne i tilfælde af en akseinvasion af Palæstina gennem Nordafrika, hvilket førte til oprettelsen af Palmach-taskstyrken i 1941.