Im Irak übergab Mu`awiya die Führung selbständigen Gouverneuren, die gegen die Charijiten kämpfen sollten. Diese radikale Sekte vertrat die Doktrin, daß sie nur dann dem Kalifen zu gehorchen habe, wenn er übereinstimmend als bester Moslem anerkannt werde. Besonders um Basra herum, gab es ständig Unruhen.

Die Partei `Alis verhielt sich momentan ruhig, da sich Hasan von Mu`awiya kaufen ließ. Nach dem Tode Mu`awiayas änderte sich jedoch die Situation. Bei den Arabern gab es keine monarchische Tradition im Sinne einer Erbfolge. Mu`awiya hatte seinem Sohn Yazid zwar den Boden bereitet, doch war er besonders bei den Strenggläubigen nicht sehr angesehen. Hasan war gestorben. Sein Bruder Husain (also ebenfalls ein Sohn von `Ali und Fatima) wurde 680 bei Kerbala am Eingang zum Irak überrascht und getötet, ohne daß Yazid etwas dazu beitragen mußte. Dieses Ereignis verlieh der Schi`a den Schein des Martyriums. Noch heute finden im Iran, wo der Schi`smus offizielle Lehre geworden ist, jedes Jahr Schauspiele statt, die an Husain und die Geschehnisse von Kerbala erinnern sollen.

Danach wollte `Abdallah, der Sohn des Zubair (der mit `A'ischa und Talha gegen Mu`awiya gekämpft hatte) an die Macht. Er wähnte sich in Mekka sicher, wurde aber besiegt und die Ka`ba in Brand gesetzt. Dies war ein weiterer Grund für die Gegner der Umaiyaden, diese der Gottlosigkeit zu bezichtigen. Yazid starb 683 und bald darauf sein noch ganz junger Sohn Mu`awiya II. (684). Schließlich wurde Marwan aus Medina zum Nachfolger bestimmt. Ihm folgte 685 sein Sohn `Abelmelik. Er war sicher der fähigste Kopf, was die Verwaltung betraf.

`Abdallah ibn az-Zubair hatte Basra in seine Abhängigkeit gebracht. In Arabien und anderen Stellen stifteten die Charijiten Unfrieden. Jedoch konnte sich `Abalmalik den Umstand zunutze machen, daß seine Gegner selbst untereinander verfeindet ware