А тем временем молодой император становился все более непопулярным у себя дома благодаря грабительским налогам, необходимым, чтобы вести неудачную войну и одновременно строить дорогие и никому не нужные дворцы в столице. Говорят, что его финансисты — Феодот, бывший монах, покинувший свой монастырь, и евнух Стефанус — обращались с горожанами с крайней жестокостью. Феодот якобы пытал неплательщиков, подвешивая их над горящим очагом, а Стефанус предпочитал розги. Утверждают, что однажды, в отсутствие Юстиниана, он даже схватил и подверг порке вдовствующую императрицу Анастасию. А император в качестве наказания велел ему всего лишь завершить за свой счет строительство здания, которым он был занят.
Юстиниан стал непопулярным не только из-за непомерного налогообложения. У него была привычка хватать и бросать в тюрьму по одному только подозрению сенаторов и военачальников, потерпевших поражение на поле боя. Иными словами, принять командование военным отрядом при нем считалось кратчайшим путем в тюрьму или на плаху. Из-за его собственной неудачливости в войне с сарацинами его ненавидели солдаты, причем ничуть не меньше, чем командиры. В 695 году Юстиниан приказал отличившемуся военачальнику по имени Леонтий, покорителю Иберии и Албании, принять командование фемой Hellas. Посчитав это назначение предварительным этапом на пути к позору и казни, отчаявшийся Леонтий задумал устроить государственный переворот. Во главе нескольких десятков преданных людей он открыл тюрьмы и устремился во дворец. Юстиниан был захвачен врасплох. Он попал в руки Леонтия, который отрезал ему нос и сослал в далекую крепость в Крыму. Феодота и Стефануса растерзала толпа.
После падения Юстиниана II начался период анархии, длившийся двадцать два года. Это было сущее бедствие для империи. До этого Константинополю, в общем, удавалось избегать отрицательных последствий военных мятежей и смен династий. Если не считать единственного исключения — захвата власти Фокой и его свержения Ираклием, в истории империи триста лет не было случаев насильственной передачи императорской короны. Все ранние императоры востока были или назначены предшественниками, или вполне мирно избраны сенатом и армией. И лишь теперь стало ясно, насколько роковым может быть нарушение правила упорядоченной передачи власти. За последующие после свержения Юстиниана II двадцать два года в империи было не меньше пяти революций, да и за ее пределами произошло немало катастроф, существенно урезавших ее размеры.
Трехлетнее правление Леонтия запомнилось потерей Карфагена и всей Африки. Уже во время Юстиниана провинция была частично захвачена армиями халифа. В 697 году пал Карфаген. Он был на некоторое время отвоеван экспедицией, отправленной Леонтием, но в 698 году окончательно перешел к сарацинам. Римским военачальникам удалось спастись морем и вывезти главные силы армии. Опасаясь гнева Леонтия после такой масштабной катастрофы, возвращающиеся командиры устроили заговор против него. Они приплыли на Босфор, где их появления никто не ждал, схватили императора, отрезали ему нос и заточили в монастырь. В 698 году императором был провозглашен Тиберий Апсимар.
Тиберий II, очень способный человек, усидел на троне семь лет. Ему повезло в войне с сарацинами: его армии разгромили войско халифа, вернули Киликию и даже заняли Антиохию. Но этот успех не спас Тиберия от обычного конца всех узурпаторов. Он был свергнут изгнанным и изуродованным Юстинианом II, неожиданно снова появившимся на сцене.
Юстиниан был изгнан Леонтием в удаленную крепость Херсонес, современный Севастополь, на северном берегу Черного моря. Но его охраняли не слишком тщательно, и ему удалось бежать и добраться до двора хазарского кагана. В те времена хазары жили в низовьях Волги и на побережье Азовского моря. Несмотря на свой изуродованный нос, Юстиниану удалось заручиться благосклонностью и поддержкой кагана. Тот даже отдал опальному императору в жены свою сестру. Узнав об этом, Тиберий II послал кагану большую взятку, чтобы убедить его выдать своего гостя. Коварный варвар согласился и отправил человека, чтобы арестовать Юстиниана. Но только изгнанник узнал о заговоре из сообщения супруги, не дал себя схватить и вместо этого убил эмиссара кагана, после чего вышел в море на лодке, взяв с собой не больше полудюжины людей. Поднялся шторм, грозивший вот-вот утопить маленькую лодку. Когда лодка стала наполняться водой, один из спутников изгнанного императора предложил ему дать клятву Господу, что, если им удастся спастись, он простит всех своих врагов. Только изгнанник не согласился. Он ответил, что, если пощадит хотя бы одного из них, пусть лучше Бог потопит его лодку здесь и сейчас. Шторм стих, лодка благополучно пристала к берегу. Юстиниан оказался в руках булгарского царя Тербила. Тот дал ему армию, с которой Юстиниан и подошел к воротам Константинополя. Его сторонники в городе открыли ему ворота, изгнанник добрался до дворца и схватил Тиберия II. Затем Юстиниан вытащил из монастыря свергнутого узурпатора Леонтия, связал его и Тиберия по рукам и ногам и положил перед своим троном на ипподроме. Там он сидел, торжествуя, поставив ноги на шеи свергнутых цезарей, а его торжествующие сторонники кричали: «Ты раздавил Льва и Аспида!» (Ссылка на имена павший правителей — Леонтия и Апсимара.) Затем пленных обезглавили. Это было в 705 году.
Во время своего первого правления Юстиниан наказывал своих подданных розгами. Теперь он использовал плети с шипами. Он вернулся из ссылки, исполненный жестокостью, и со строжайшей точностью исполнял свою клятву. Все, кто принимал участие в его свержении десятью годами раньше, были схвачены, подвергнуты пыткам и казнены. Некоторые его деяния стали актами чудовищной жестокости. Правители Херсонеса, которые оскорбляли его во время ссылки, были насажены на вертела и поджарены, многих патрициев зашили в мешки и бросили в Босфор. Удивительно, но второе правление Юстиниана длилось больше пяти лет. Его тирания была такова, что в любой момент можно было ожидать вспышки народного гнева. Правда, этот человек был не только отчаянно жестоким, но также активным, подозрительным и уверенным. Он разоблачил много заговоров против себя, раньше чем участникам удалось претворить их в жизнь. Его удалось свергнуть только военным. Армия под командованием военачальника по имени Филиппик отреклась от жестокого тирана, схватила его и обезглавила. Его шестилетний сын Тиберий, рожденный сестрой кагана, был убит. Таков был конец династии Ираклия, давшей империи пять правителей за век (610–711) правления. Династия сделала много для спасения империи от сарацин. Все ее члены, даже Юстиниан, были очень способными людьми. Сам Ираклий, Константин-Констанс (Констант) и Константин V внесли свою долю в борьбу, пусть даже с разной степенью успеха.
Последовало шесть лет полной анархии (711–717). В имперских анналах есть имена Филиппика (711–713), Артемия-Анастасия (713–715) и Феодосия III (715–717). Все они взошли на трон в результате заговоров и были свергнуты таким же способом. Все они были слабыми и некомпетентными суверенами, намного ниже рангом, чем два ранних узурпатора, Леонтий и Тиберий Апсимар. Значение их правления не в борьбе друг с другом, а в имевшем место общем крахе системы защиты империи от сарацин, явившейся естественным последствием использования всей армии в гражданской войне. Военачальники халифов Валида и Сулеймана, сыновей Абд аль-Малика (705–717), вторглись в пределы империи во многих местах. В 711 году Сардиния, ставшая самой западной провинцией империи после потери Африки, была покорена арабами. В том же году они перешли Тавр и разграбили Тиану в Каппадокии. В 712 году они перешли Понтийский хребет и захватили Амасью, в 713 году пала Антиохия в Писидии, а с ней и большая часть юга Малой Азии. Создалось впечатление, что с падением дома Ираклия восточные римляне лишились способности к самообороне. Тем не менее низшей точки они еще не достигли.