Если бы даже штаб Сиверса захотел прекратить террор (а он не хотел), это было бы почти невозможно. Никакая сила не могла успокоить и призвать к порядку солдат расформированных отрядов, пришедших в Ростов с Украины, спасаясь от немцев. Они убивали иногда просто ради грабежа. Беспорядки были случайными и непредсказуемыми. В то время как офицерам и видным кадетским политикам удалось спрятаться и выжить, включая Милюкова, некоторые были убиты только потому, «что носили обувь такую же, как у солдат Добровольческой армии».
Террор в Таганроге был еще более кровавым. Ярость, с которой офицеры пытались подавить восстание в январе, оставила слишком горькие воспоминания. Десятки офицеров были арестованы и жестоко убиты. Среди арестованных офицеров был генерал Ренненкампф, участник Русско-японской войны и хорошо известный участник неудавшейся попытки государственного переворота России в августе 1914 года. Из Петрограда поступило распоряжение предложить Ренненкампфу командование позицией на пути надвигающейся немецкой армии. Когда Ренненкампф отказался, Антонов-Овсеенко лично отдал приказ о его казни.
Наверное, никакие поступки большевиков не вызывали такого всеобщего возмущения, как их отношение к церкви. 26 февраля они арестовали архиепископа Новочеркасска и держали его в тюрьме десять дней. Согласно комиссии по расследованию, организованной Добровольческой армией в 1919, было совершено пятнадцать убийств священников. Новые власти отменили церковные венчания и Закон Божий в школах. Большевики были отлучены от церкви. Хотя население Дона было охвачено страхом, оно нередко выходило на защиту священников.
Казаки в своих станицах страдали гораздо меньше, чем городское население. Тем не менее, именно они активно боролись с новым режимом и сыграли важную роль в его свержении. Казаки были разочарованы тем, что руководство их родным краем захвачено чужаками. Но важнее всего то, что большевики являлись угрозой их привилегиям. Даже до занятия Новочеркасска Саблин, один из командующих Красной армией, объявил представителям Круга: «Казачество, как отдельное и привилегированное сословие, должно быть ликвидировано». Большевики в дальнейшем вели себя в соответствии с объявленными намерениями. А съезд Советов, на котором преобладали иногородние, обсуждал планы изъятия казачьих земель.
Известие, что фронтовики возвращаются в свои станицы, дли казаков означало, что большевики станут слабее. Пока они находились на фронте, большевики могли влиять на них, но когда те же молодые люди вернутся в свои семьи, они скорее прислушаются к мнению своих родных, а старшие казаки никогда не любили большевиков.
Антибольшевистское сопротивление началось в станицах в окрестностях Новочеркасска. Это был богатейший район, менее всего симпатизирующий большевикам, так как более всего пострадал от мародерства красных и организованного ими изъятия продовольствия, что породило ненависть: казаки часто убивали агентов большевиков даже в первые недели существования Советской республики.
Первым знаком волны антибольшевистского восстания была измена В. С. Голубова. Голубов — храбрый солдат, но авантюрист и карьерист, чьей главной целью было стать атаманом. Он быстро уловил настроение казаков. В январе 1918 года он покинул атамана Каледина и присоединился к Подтелкову; это он вел войска, занявшие Новочеркасск. Большевики никогда полностью ему не доверяли и старались держать его подальше от Ростова. У них были причины к недоверию. Голубов не выполнил приказ Военно-революционного комитета разбить Попова, когда он и полторы тысячи его солдат бежали из Новочеркасска. Вместо этого Голубов взял в плен М. П. Богаевского, ближайшего друга и помощника атамана Каледина. Должно быть, у него были планы, как использовать своего пленника, так как он отказался выдать генерала ростовским властям.
В начале апреля 1918 года Голубов открыто отвернулся от большевиков и отбыл в станицы в окрестностях Новочеркасска, чтобы найти добровольцев. Но к этому времени он был известен как человек, которому нельзя доверять. Казаки не отозвались, и когда большевики узнали о его деятельности, то 7 апреля выслали за ним небольшой отряд, поэтому ему пришлось спасаться бегством. Несколько дней спустя он стал первой жертвой восставших антибольшевистских казаков, которые не смогли простить его прошлого предательства.
Восстание казаков было спонтанным, поэтому плохо спланированным. 10 апреля казаки обезоружили и убили красноармейцев, которые занимались реквизицией в станице Кривянской, находившейся всего в нескольких верстах к западу от Новочеркасска. На этот раз казаки не были удовлетворены своей «победой» и решили сформировать повстанческую армию. Своим командиром мятежники выбрали есаула Фетисова, так как он был единственным офицером, присутствующим на собрании. Первым его действием было то, что он послал гонцов в соседние станицы с просьбой о помощи. Через несколько дней 14 апреля он собрал отряд из 300–400 человек и решил сделать вылазку в Новочеркасск. Большевики ничего не знали о Фетисове и были застигнуты врасплох, отступив к Ростову без боя.
Набег Фетисова был плохо спланирован. У него не было штаба, его казаки были плохо экипированы, и он не имел четкого плана. Было ясно с самого начала, что казаки не смогут надолго удержать захваченные позиции, но затея была не бесполезна. Она дала возможность офицерам в Новочеркасске организовать движение, которое в дальнейшем сыграет главную роль в освобождении Дона, а также станет основой будущего правительства. 14 апреля Г. П. Янов, широко известный консервативный политик, сформировал «Совет Обороны» Донского края. Три дня спустя этот совет назначил К. С. Полякова командующим еще несуществующей казачьей армией, а С. Денисова — начальником штаба.
Когда 17 апреля большевики атаковали сразу с двух направлений, от Ростова и Александровской, казаки не стали сражаться, как и большевики совсем недавно, и отступили к Кривянской. На следующий день, 18 апреля, армия передислоцировалась в станицу Заплавскую, где и произошло так называемое Заплавское сидение, которое продлилось до 8 мая (дата освобождения Новочеркасска). Мятеж быстро распространялся, и многие казаки приходили из соседних станиц, чтобы пополнить ряды белых. Армия Полякова, которая в начале пребывания в станице Заплавской насчитывала 4 тысячи человек, к 23 апреля насчитывала уже 6,5 тысячи человек. 21 апреля «Совет Обороны» Донского края преобразовали во временное Донское правительство. К счастью для казаков, большевики оставались пассивны и позволили им заниматься своими делами.
Заплавская армия была самой многочисленной из казачьих армий, но не была единственной. Сформировалась еще одна армия из 1000–2000 человек на левом берегу Дона. Из Сальских степей со своими войсками вернулся атаман Попов. Настроения казаков изменились, и те станицы, которые еще пару месяцев назад враждебно относились к белым, теперь встретили Попова как героя.
Делегация от заплавской армии встретилась с Поповым 23 апреля в Константиновской. Встреча была не теплее той, что состоялась между Корниловым и Покровским. И. А. Поляков, член заплавской делегации, писал:
«Если быть откровенным, то необходимо сказать, что встреча была очень болезненной. Они приняли нас холодно и неприветливо. Более того, они пытались представить наш приход как раскаяние грешников. Но что это были за грехи — нам не говорили. Особенно нас поразило то, что атаман и его свита… больше всего интересовались личными делами, чем общей обстановкой в Заплавской».