Описывая этот первый поход Масламы, армянский автор VII в. Гевонд рассказывает, что арабы после взятия Дербента вторглись в хазарские земли и дошли до города Тарку (Семендера). Здесь они встретились с войском хазарского кагана. Обе армии несколько дней стояли в бездействии, выпуская только отдельных удальцов для единоборства. Маслама, опасаясь явного численного превосходства хазар, тайно отвел свои войска назад, в Грузию, оставив для разграбления лагерь, полный имущества, и даже собственный гарем.
Снова хазары захватили часть албанской земли. В течение четырех лет они хозяйничали в северной части Азербайджана, а в 721 г. вторглись уже в Армению и уничтожили стоявшее там арабское войско. Новый арабский наместник Армении Джеррах Ибн-Абдаллах ал-Хаками выступил против хазар с вновь сформированной сильной армией. Так началась длившаяся более полутора десятилетий война арабов против хазарского каганата. Арабы предприняли несколько походов в глубь хазарских земель, которые сопровождались разгромом городов, разорением страны и гибелью ее жителей.
Джеррах получил из халифата предписание атаковать хазар на их собственной территории. Отбросив хазар к Дербенту, он взял почти без сопротивления этот город, прошел дальше и уже в Хазарии встретился с сорокатысячной хазарской армией, возглавленной сыном кагана Барджилем. Несмотря на явное численное превосходство хазар (арабов было всего 25 тыс.), они потерпели сокрушительное поражение. Джеррах стремительным маршем подошел к Семендеру и осадил его. Жители сдались на милость победителя, поэтому Джеррах не тронул их, город остался цел, только из цитадели выселили людей. Ее заняли сами арабы. От Семендера Джеррах двинулся к Беленджеру. По пути он встретился с беленджерцами, пытавшимися преградить путь арабской армии. Интересно, что беленджерцы при этом пользовались старинным уже и для того времени способом обороны — они поставили на пути арабов огромный лагерь, окруженный связанными телегами. Арабам удалось разрушить тележную баррикаду: несколько воинов пробрались к телегам, разрезали связывающие их веревки и под тучами стрел растащили преграду. С большим трудом арабы одержали победу в рукопашном бою — и те, и другие сражались «пока душа в теле». Правитель страны Беленджер бежал вместе с 50 воинами. Его жена и дети были захвачены арабами. Джеррах отослал знатных пленников вслед за мужем и отцом и пообещал князю Беленджера сохранить за ним владение. Этим он завоевал симпатии и поддержку последнего. Но страну арабы безжалостно разграбили. Каждый конный воин арабской армии получил имущества на 300 динаров, а пеший — на 100. С учетом того, что в казну халифа шла пятая часть захваченной добычи, контрибуция была огромной. Очевидно, тогда же подверглись ограблению богатейшие курганы близ Беленджера — своеобразные сокровищницы хазарской знати. Пал и сам город. Жители предложили выплачивать арабам подать, благодаря этому Беленджер, как и Семендер, остался цел и не подвергся тотальному разрушению.
Джеррах намеревался продолжать поход, но, узнав, что хазары собрали новую армию, вернулся на зимние квартиры в Албанию. Перезимовав, Джеррах не решился идти в Хазарию, так как не получил поддержки из халифата. Он предпочел более слабого противника — Аланию. В 724 г. Джеррах обложил алан подушной податью.
Для алан поход этот имел тяжелые последствия. Разоренные захватчиками, а затем систематически ограбляемые, они оставили насиженные и обжитые предгорья и двинулись в поисках новых земель, подальше от арабов — на север в верховья Северского Донца, Оскола и Дона.
В 724 г. в халифате умер старый халиф и к власти пришел новый — Хишам. Очевидно, Джеррах не принадлежал к его партии и поэтому сразу же был отозван с высокого поста правителя Армении и Албании. Его место занял Маслама. Назначение в закавказские страны не знающего поражений полководца говорит о том, какую роль отводил халифат борьбе с хазарами. Маслама поставил своим заместителем Саида Ибн-Амра ал-Хараши, известного дикими зверствами при подавлении восстания в Согде. Однако для борьбы с хазарами одной жестокости было недостаточно — Саид начал терпеть поражение за поражением. В 727 г. Маслама сам возглавил поход в Хазарию, который завершился разграблением одной из областей каганата. Армия кагана избежала столкновения и осталась по-прежнему грозной силой, нависшей над северными провинциями халифата. Поэтому в следующем же году Маслама вновь с большим войском направился в Хазарию. Более месяца он, переходя с места на место и изматывая этим свою армию, пробыл там. Несколько раз между войсками арабов и хазар происходили стычки, но уйти из страны Масламе пришлось не из-за них, а из-за проливных дождей, размывших дороги и наполнивших почти пересохшие русла бурными потоками. Ответом на эту неудачу был новый набег хазар на Албанию в 729 г.
Фактическое поражение Масламы и его заместителя привело к тому, что халиф отозвал их из Закавказья и снова назначил туда более удачливого Джерраха.
Полномочия, данные Джерраху, не были подкреплены ни средствами, ни войсками. Осведомленные о слабости арабов, хазары в 730 г. смогли организовать серьезный поход в Закавказье. Во главе войска встал, как и девять лет назад, сын кагана Барджиль. Армянские источники сообщают, что страной в то время правила мать кагана Парсбит, поскольку прежний каган неожиданно умер.
Барджиль, ворвавшись в Албанию, прежде всего приказал своим воинам повсеместно убивать мусульман, сам же с основными силами подошел к Ардебилю. Там, у стен города, и встретились арабская и хазарская армии. В тяжелейшем двухдневном сражении хазары разбили арабов и практически уничтожили их армию. Они не брали даже пленных, сам Джеррах погиб, его жена и дети были разделены между победителями, захватившими в лагере к тому же еще и огромную добычу. Пал и Ардебиль. Там также были истреблены все мусульмане и все, кто мог носить оружие. Слух об этих победах разнесся по всей Азии. О походе и победах хазар знали и в Византии. По прошествии 200 лет царь Иосиф по-прежнему хвастливо рассказывает о них в своем послании Хасдаю.
Халифу вновь пришлось прибегнуть к помощи старика Масламы, а до его приезда поручить ведение борьбы Саиду ал-Хараши. К этому времени хазары, воодушевленные победами, рассеялись по стране. Ал-Хараши начал с уничтожения этих небольших хазарских отрядов. В последнем сражении, происшедшем в Муганской степи, арабы чуть не взяли в плен самого Барджиля. Армию хазар они разбили, лагерь их захватили, и почти все награбленные богатства снова попали в руки арабов. Когда Маслама добрался до Закавказья, с хазарами было покончено — разбитая армия каганата отступила в Дагестан. Маслама, отстранив от дел Саида, попытался преследовать хазар, но дошел только до Дербента и, оставив в нем гарнизон, отправился зимовать в Албанию.
Весной 732 г. он снова осадил Дербент, из которого арабов уже выбили хазарские воины. В крепости засел отборный хазарский отряд, состоявший из тысячи воинов. Маслама не стал брать крепость, а через город двинулся прямо в Хазарию. Он жег и разорял все на своем пути, брал в плен жителей, угонял стада. Так он дошел до Семендера, у которого его встретил каган с огромной армией. Маслама испугался. Он тайком, ночью, разведя для отвода глаз костры, отступил с позиций и стремительным маршем в один день довел свое войско до Дербента. Хазары кинулись в погоню, но, когда они подступили к стенам Дербента, арабы уже пришли в себя и, выдержав мощные атаки хазарской армии, укрепились в городе. Хазарский перебежчик в конце дня указал на место, где стояла каганская ставка. Арабские удальцы вновь бросились в атаку, буквально прорубая себе путь к повозке кагана через несколько рядов отборных хазарских воинов. Несколько арабов достигли ставки. Им удалось ранить кагана. В пылу битвы тот все же сумел бежать, но вдохновленные неожиданным успехом, арабы оттеснили хазар и сорвали их очередное наступление на Албанию. Затем Маслама с большим трудом отбил у хазар цитадель Дербента. Хазары держались до последней возможности, и только тогда, когда Маслама по наущению какого-то дербентца отравил воду в источнике, из которого шла вода в цитадель, хазары отступили — они ночью оставили крепость. Маслама укрепил Дербент, построил арсенал и поселил там колонию сирийцев, которым поручил охрану крепости. После этого он уехал из Закавказья, передав все дела Мервану Ибн-Мухаммеду — двоюродному брату халифа, одному из самых известных и удачливых арабских полководцев.
