Объявили перемирие и назначили третейский суд. Но еще до начала суда начался разброд в лагере Али, которого стали обвинять в нерешительности и трусости. Некоторые из его приверженцев отложились, отказавшись признавать суд и его решения. Сформировалась партия так называемых «чтецов» – истово верующих, проводивших все время в чтении Корана. Чтецы призывали чуть ли не к прямому правлению Аллаха во всех светских делах. Халиф в их учении становился почти символической фигурой, которого следовало лишать должности при любом нарушении буквы писания. Сами они называли себя хариджиты, «выходцы», то есть «выходящие на путь Аллаха» (по другой версии «вышедшие из повиновения, восставшие»).

В то же время начал формироваться культ Али. Для своих приверженцев он стал носителем особой миссии, которая якобы втайне была поручена ему самим Пророком. Рассказывали истории, как Али сам обмывал тело Пророка, и помогали ему в этом ангелы. Так на свет появились шииты, сторонники «Шиат Али» – партии Али. Они стояли за законно избранного халифа. Преемственность халифата для них была важней, чем толкования писания.

Хариджиты вскоре окончательно отделились от Али и перебрались в Нахраван в окрестностях Багдада. Там они избрали своего халифа, Абдуллу ибн Вахба.

Как и следовало ожидать, третейский суд кончился ничем. Одни из судий предложили избрать халифом Муавию, другие – какое-нибудь третье лицо. Снова началась война. Но теперь лагерь Али был расколот: шииты стали преследовать хариджитов и устроили против них военный поход. Большинство «чтецов» рассеялось при появлении войск Али, около двух тысяч самых верных было уничтожено. Но само движение хариджитов осталось жить и распыляло силы Али. Появились перебежчики, уходившие от Али к Муавии: в основном это были аристократы, недовольные политикой «равноправия», которую проводил благочестивый халиф и которая лишала их обычных привилегий. Жители Куфы отказались идти на Сирию, заявив, что хватит с них войн. В Египте вспыхнуло восстание, и власть в провинции перешла к Муавии.

Началась затяжная гражданская война, состоявшая из бесконечных стычек и мятежей, которые все больше ослабляли власть халифа. Отряды Муавии совершали глубокие рейды в тыл врага, захватив на время даже Меккку и Медину. В разгар междоусобицы Али был убит. В Куфе, куда он перенес свою столицу, три хариджита напали на него по пути в мечеть и проломили ему голову мечом. Два дня спустя он скончался в мучительной агонии. Одновременно хариджиты попытались убить Муавию и Амра, но оба спаслись по счастливой случайности: первый во время удара склонился в молитвенном поклоне и избежал смерти, а вместо второго по ошибке убили другого человека.

По описаниям современников, Али был толст и некрасив, среднего роста, очень смугл. Его белая борода, необыкновенно широкая, закрывала всю грудь, а белые волосы – цвета хлопка, как писали арабы, – гривой ниспадали на спину и венчиком курчавились вокруг лысины. В молодости он был очень воинственен и даже сына своего хотел назвать Харб – «война», но потом превратился в мирного семьянина, отрастил большой живот, за что его прозвали «пузаном», воспитывал своих многочисленных сыновей и дочерей и отличался большим добродушием. При всей своей личной храбрости и силе он был миролюбив и во время гражданской войны всегда до последнего старался оттянуть столкновения между арабами. Горькая ирония заключалась в том, что именно миролюбие его и погубило.

Перед смертью приближенные спросили Али: если ты умрешь, присягать ли нам твоему сыну Хасану? Халиф ответил: я не побуждаю вас к этому и не запрещаю, решайте сами.