Skriv en fortsættelse til dette afsnit - Under borgerkrigen mellem
Den rivaliserende kalif al-Amin (r. 809-813) og al-Ma'mun (r. 813-833), blev Yazid udnævnt til guvernør i Yemen af al-Ma'muns general Tahir ibn al-Husayn, med et direktiv om at bringe provinsen under al-Ma'muns kontrol. Han drog derfor til Yemen med en stor gruppe ryttere, og da han ankom overbeviste han jemeniterne om at opgive al-Amin og sværge troskab til al-Ma'mun i stedet. Han løb dog hurtigt ind i problemer med sin politik om at støtte Qahtanite-araberne i provinsen på bekostning af de lokale "abna", som han behandlede på en ekstremt hård måde. Kort efter al-Amins død i 813 nåede Yazids mishandling af "abna" al-Ma'mun, som reagerede ved at fratage ham guvernørembedet. Efter sin afskedigelse blev han arresteret i Sana'a af sin efterfølger Umar ibn Ibrahim ibn Waqid al-Umari og kastet i fængsel.