I 1946 var han en arabisk nationalist og begyndte at skaffe våben til at blive smuglet ind i det tidligere britiske mandat i Palæstina, til brug for irregulære i den arabiske Højere Komité og hæren af den hellige krig militser. Under 1948 Arabisk-israelske krig, Arafat forlod universitetet og sammen med andre arabere, søgte at komme ind i Palæstina for at deltage i arabiske styrker, der kæmper mod arabiske tropper og skabelsen af staten Israel. Men i stedet for at deltage i rækkerne af de palæstinensiske fedayeen, Arafat kæmpede sammen med Det Muslimske Broderskab, selv om han ikke sluttede sig til organisationen.
I 1949