На эту кризисную ситуацию отреагировали трое: Абу Бакр, Умар и Абу Убайда, которые быстрыми и решительными действиями сделали Абу Бакра правителем, сменившим пророка. На следующий же день мекканцы и ансары оказались перед свершившимся фактом, который они приняли, как видно, без особой охоты. Абу Бакр получил титул халифа, то есть наместника (пророка), который в европейских языках часто передают с буквой «к» – калиф, и его избрание ознаменовало возникновение великого исторического института – халифата. Избравшие его, возможно, даже не представляли себе, во что позднее разовьется этот пост. В то время они не пытались как-либо ограничить его обязанности или полномочия. Единственным условием назначения было обязательство сохранять в неприкосновенности наследие пророка.
С самого начала власть, которую осуществлял Абу Бакр, в некоторых важных отношениях отличалась от власти арабских племенных шейхов. Он был главой не просто общины, но религии. Он обладал исполнительной властью и армией, и, поскольку ситуация, которая сложилась после его восшествия, требовала политических и военных действий, он принял политическую и военную власть, которая со временем превратилась в неотъемлемый аспект поста халифа. Два года спустя, после смерти Абу Бакра, его преемником без особой оппозиции стал Умар.
Первая задача нового режима состояла в том, чтобы военными действиями противостоять движению среди племен, которое в предании известно как ридда. Это слово, означающее «вероотступничество», вероятно, представляет собой новое толкование событий с теологически окрашенной точки зрения более поздних историков. Отказ племен признать Абу Бакра преемником был в конечном счете не столько возвращением обращенных мусульман к прежнему язычеству, сколько простым и автоматическим прекращением политического договора по причине смерти одной из сторон. Племена, ближайшие к Медине, несомненно, были обращены, и их интересы так тесно переплелись с интересами уммы, что об их отдельной истории ничего не известно. Что же до остальных, то смерть Мухаммада автоматически разорвала их связи с Мединой, и стороны, согласно древнему обычаю, вернули себе свободу действий. Поскольку они не принимали участия в избрании Абу Бакра, они, по всей видимости, не считали себя обязанными подчиняться ему и сразу же прекратили выплату дани и отношения по договору. Чтобы восстановить гегемонию Медины, Абу Бакру пришлось заключать новые соглашения. И хотя некоторые из ближайших племен их приняли, дальние племена их отвергли, и Абу Бакр был вынужден военной силой подчинять эти племена, что было предпосылкой к их обращению в ислам.
Войны с вероотступниками начались как кампания по возвращению к вере и превратились в завоевательную войну, которая в конце концов увела арабов далеко за пределы Аравии. Два завоевания, во-первых, самой Аравии и, во-вторых, соседних провинций – Ирака, Сирии и Египта, были одновременными и взаимосвязанными, а не последовательными. Арабские племена, возможно, так и не были бы покорены, если бы завоевания на севере не предоставили привлекательного решения внутренних экономических проблем полуострова. Первые северные походы были всего лишь грабительскими налетами, а не завоеваниями. Они последовали только после того, как открылась слабость врага. С самого начала мединская власть была слаба и ограничивалась лишь самым общим руководством. При трудностях сообщения, существовавших в ту эпоху, командирам и правителям приходилось продумывать детали и брать на себя инициативу прямо на месте.
Рассказы о завоеваниях фрагментарны и часто противоречивы. На них так часто ссылались для установления норм закона, что некоторые ученые стали видеть в них не более чем собрание реальных или выдуманных юридических прецедентов, а не достоверный рассказ об исторических событиях. Однако их основная канва все же довольно ясна. Одной из ключевых фигур арабских завоеваний, изображаемых в традиционных повествованиях, был Халид ибн аль-Валид, главный полководец Абу Бакра. Выполнив приказ и восстановив статус-кво после смерти пророка, он сам принял решение, что делать дальше, и приступил к осуществлению планов по военной экспансии. Истинным началом арабских завоеваний, согласно этим повествованиям, была битва при Акрабе в 633 году, состоявшаяся в Восточном Неджде. Победа показала арабам, на что способна мединская власть и что было бы желательно ей подчиниться. После этого во все стороны разошлись новые экспедиции.
Между Мединой и Сирией находилось несколько полухристианских арабских племен, которые были определенной преградой для наступления из пустыни. В источниках они не упоминаются, хотя должны были сыграть какую-то роль, и можно только предполагать, что, когда император Ираклий прекратил выплачивать им помощь, которую они получали прежде от византийского правительства, это убедило их встать на сторону захватчиков. В 633 году Абу Бакр призвал добровольцев в поход на Сирию и отправил войска туда и в Палестину. Арабы разгромили небольшие силы византийцев в следующем году и совершили ряд мелких набегов в Южную Палестину, но отступили в пустыню, чтобы дождаться помощи из Медины, в то время как Ираклий мобилизовал армию. В этот момент из Ирака неожиданно прибыл Халид, пройдя вверх по Евфрату через Пальмиру, и появился перед Дамаском в апреле 634 года. Разграбив город, он отступил и присоединился к остальным войскам на юге. Византийцы тем временем подошли к Иерусалиму, но потерпели поражение от объединенных арабских сил в битве при Аджнадайне. После ряда дальнейших неудач, постигших византийцев, и шестимесячной блокады арабы захватили Дамаск. Они сразу же рассеялись по Палестине, а Халид тем временем двинулся на север. Между тем Ираклий подготовил мощную армию, состоявшую в основном из армян со вспомогательной конницей, набранной из арабских данников. Значительно превосходящие силы противника застали арабов врасплох, и они ушли из Дамаска и сосредоточились на реке Ярмук, где в июле 636 года нанесли сокрушительное поражение византийцам, что отдало в их руки всю Сирию и Палестину, за исключением двух укрепленных византийских твердынь – Кесарии и Иерусалима. После завоевания Сирии Халид был отозван и сменен Абу Убайдой – администратор сменил полководца. В 637 году Умар посетил Сирию и установил общие принципы управления.
Предложение о набеге в Ирак поступило от вождей арабских племен пограничных областей, которые, оказавшись зажатыми между мусульманами на юге и персами на севере, решили принять ислам и вместе с мусульманами напасть на персидские территории. В 633 году Халид совершил набег на Хиру с небольшим войском, набранным преимущественно из местных. Неожиданный успех убедил его предпринять новые попытки, которые закончились сокрушительным поражением арабов в 634 году в Битве у моста, где их разгромили персидские силы шахиншаха Йездигерда. Арабы вскоре подготовили новое наступление, и летом 637 года персидская армия, насчитывавшая около 20 тысяч человек, потерпела поражение от арабского войска значительно меньшей численности при Кадисии. После своей победы арабы захватили персидскую столицу Ктесифон, также известную как Аль-Мадаин, и заняли весь Ирак. Они легко победили наспех собранные персидские силы при Джалуле, и далее арабские армии стали продвигаться на север через Сирию и Ирак, чтобы встретиться в Месопотамии и завершить завоевание Плодородного полумесяца.
Согласно арабским преданиям, вторжение в Египет началось против воли халифа, как выражение недовольства со стороны Амра ибн аль-Аса, так как его обошли в Сирии. В Египте, как и в Сирии и Ираке, сложилась благоприятная ситуация. Копты, крайне недовольные греческим правлением, готовы были помочь захватчикам. 12 декабря 639 года Амр подошел к египетскому пограничному городу Эль-Аришу с йеменской конницей. Он с легкостью захватил Эль-Ариш и почувствовал, что может превратить набег в завоевание. После захвата Пелузия (ныне Фарама) он двинулся к византийской крепости Вавилон, близ нынешнего местоположения Каира, и с подкреплением из Медины легко разбил византийцев в июле 640 года. В следующем году сдался сам город, и у византийцев в Египте осталась только Александрия. После того года осады Амр и коптский патриарх заключили договор, по которому город сдался и византийский гарнизон ушел из него. Попытка греков отвоевать его с моря в 645 году достигла временного успеха, но была сорвана в следующем году.