Som Uthman ibn Affan blev meget gammel, Marwan I, en slægtning til Muawiyah, gled ind i vakuum, bliver hans sekretær og langsomt påtager sig mere kontrol. Da Uthman blev myrdet i 656, overtog Ali ibn Abi Talib, en fætter og svigersøn af Muhammed, stillingen som kalif og flyttede hovedstaden til Kufa i Irak. Muawiyah I, guvernøren i Syrien, og Marwan I krævede anholdelse af de skyldige. Marwan I manipulerede alle og skabte konflikt, som resulterede i den første borgerkrig
(den "første Fitna"). Ali blev myrdet af Kharijites i 661. Seks måneder senere i 661, i fredens interesse, gjorde Alis søn Hasan en fredsaftale med Muawiyah I. I Hasan <unk> Muawiya-traktaten overdrog Hasan ibn Ali magten til Muawiya på betingelse af, at han ville være retfærdig over for folket og ikke etablere et dynasti efter sin død. Muawiyah brød efterfølgende betingelserne i aftalen og etablerede Umayyad-dynastiet med hovedstad i Damaskus. Husayn ibn Ali, på det tidspunkt Muhammeds eneste levende barnebarn, nægtede at sværge troskab til Umayyaderne. Han blev dræbt i slaget ved Karbala samme år, i en begivenhed, der stadig sørges af shia på Ashura-dagen. Uroligheder, kaldet den anden Fitna fortsatte, men muslimsk styre blev udvidet under Muawiyah til Rhodos, Kreta, Kabul, Bukhara og Samarkand og udvidet i Nordafrika. I 664 erobrede arabiske hære Kabul, og i 665 trængte de ind i Maghreb.