Сенат признал действия Неплюева незаконными, однако отметил, что отмена его решения невозможна. Именно по этой причине Сенат оставил жалобу без последствий.
Тогда Петрункевич написал записку «Очередные задачи земства». К. Ф. Волков взялся опубликовать ее во Львове, то есть в Австро-Венгрии. Австрийская полиция ворвалась в типографию, брошюру изъяли, и она считалась безвозвратно утраченной. Однако один экземпляр был доставлен издателю «Вольного слова» М. П. Драгоманову, и тот опубликовал ее в 1883 году. В 1911-м В. Я. Богучарский прислал Петрункевичу заинтересовавшую его статью. Оказалось, текст принадлежал перу самого Петрункевича. Это подтвердила и его жена, переписывавшая брошюру в 1879 году.
В марте 1879-го должен был состояться земский съезд в Москве. Туда отправились Линдфорс и Петрункевич. Они рассчитывали на помощь М. М. Ковалевского, но тот забыл о своем обещании найти помещение для форума. Между тем некоторые гласные уже прибыли на съезд. Черниговцы обратились к В. А. Гольцеву, который тоже позабыл о намечавшемся мероприятии, но все же взялся за поиски квартиры. Ее нашли в доме князя Кропоткина на углу Кречетниковского и Дурновского переулков. Собрались около 30 человек, представлявших разные губернии. Больше всего было тверичей. Там были братья Бакунины, Павел и Александр, М. И. Петрункевич, Т. Н. Повало-Швейковский, В. Н. Линд и другие. Собравшиеся говорили о необходимости постоянной организации для борьбы за конституцию. На этом съезд и завершился. И. И. Петрункевич отправился в отпуск в Тверь. 3 апреля 1879 года, в ожидании поезда на вокзале, он обратил внимание на суету полиции, жандармерии. Оказалось, что день назад, 2 апреля, А. К. Соловьев стрелял в Александра II.
27 апреля 1879 года к Петрункевичу наведались гости: в его усадьбе появились исправник и четверо жандармов. Они объявили, что, согласно предписанию министра внутренних дел Л. С. Макова и шефа жандармов А. Р. Дрентельна, Петрункевич должен быть арестован и немедленно отправлен в сопровождении двух жандармов… «Куда?» — перебил Петрункевич. «Вы узнаете это на месте, так как мне это неизвестно», — услышал он в ответ. Петрункевичу было дано два часа на сборы. Он собрал вещи, документы, попрощался с родителями и попросил заехать к А. С. Паниной, которая жила в 20 верстах от Плиску, в Нежинском уезде. В сопровождении жандармов он проследовал на вокзал, где Петрункевич и его «свита» дождались поезда из Киева, сели в вагон второго класса и отправились в Курск. Ехали молча. У Петрункевича было время подумать о случившемся, а главное — о том, что его ожидало в ближайшем будущем. Оставалось лишь гадать: если они едут в Санкт-Петербург, Петрункевича скорее всего поджидала Петропавловская крепость; если в Москву — ссылка в Сибирь или на берега Тихого океана.
В Москве Петрункевича поджидали уже семь жандармов, они торжественно встречали его у дверей вагона. У вокзала стояла карета с зашторенными окнами. Петрункевича привезли в Басманную часть, где он провел весь день, а вечером доставили на Ярославский вокзал. Утром они были в Ярославле, где сели на пароход, чтобы продолжить путь до Костромы. В ту пору железная дорога еще не связывала Ярославль и Кострому. «Волга, великолепное утро, новый край, все действовало возбуждающе и привлекло внимание, — описывал свои впечатления Петрункевич. — Я как бы забыл о своем новом положении, чувство радости охватило меня, и я не замечал, что вокруг меня образовалась пустота; публика, которой на пароходе было много, держалась подальше от меня».
В Костроме после некоторых мытарств Петрункевича поселили в гостиницу, где он пробыл десять дней под домашним арестом. Туда же доставили его брата Михаила Ильича и А. С. Панину. Местом жительства Петрункевичу был определен город Варнавин на высоком берегу реки Ветлуга. В единственном на весь Варнавин каменном доме размещались казначейство и полицейское управление.
Петрункевич обнаружил в Варнавине целое кладбище польских ксендзов, сосланных туда за участие в восстании 1863–1864 годов. В городе было всего три улицы и церковь святого Варнавы, в честь которого он и получил свое название. Не было ни аптеки, ни уездной больницы, ни уездного врача, ни мирового судьи. Когда там оказался Петрункевич, не было и телеграфа. Да и торговли почти не было. Население было повально неграмотным. В городе не было даже помещения, где могли бы с удобством собраться земские гласные в составе 35 человек. Зимы в Варнавине были снежные и такие лютые, что ртуть замерзала в термометре, то есть морозы были ниже –39 °C.
Варнавинская администрация и полиция относились к ссыльному любезно и предупредительно. Но Петрункевича, конечно, тяготило то, что в любой момент к нему мог явиться полицейский и совершить обыск. Ему было запрещено выезжать за город, получаемая им почта могла быть задержана, а письма прочитаны исправником. Ему представился случай изменить свое положение. Товарищ А. Ф. Линдфорса по гвардейской службе С. С. Перфильев управлял канцелярией Министерства внутренних дел. Он предложил Петрункевичу занять должность предводителя дворянства в одном из уездов Северо-Западного края. Это освободило бы его от всех ограничений. Но Петрункевич отказался из принципиальных соображений: правительственная политика была для него неприемлема.
Назначение министром внутренних дел графа М. Т. Лорис-Меликова и упразднение Третьего отделения сыграло свою роль в судьбе Петрункевича. В июне 1880 года он получил предложение выбрать для места жительства один из трех городов: Владимир, Ярославль либо Смоленск, разумеется, оставаясь под надзором полиции. Петрункевич предпочел Смоленск как город более южный, а значит, и теплый.
Он устроился работать в местной газете «Смоленский вестник». Там он познакомился с сенатором В. П. Безобразовым, экономистом и публицистом. Они часто ходили в Лопатинский парк, где за бутылкой красного вина беседовали о земских проблемах и о придворной жизни, о которой рассказывал Безобразов. Однажды Безобразов пришел не один, а со своим товарищем по Александровскому лицею, духовщинским предводителем дворянства Петром Петровичем Друцким-Соколинским-Ромейко-Гурко, который стал посещать Петрункевича ежедневно. Их дружеским отношениям не мешала даже разность во взглядах. Друцкой приносил Петрункевичу свои переводы с английского. Особенно он любил поэта А. Попа.
В то время Петрункевич вынужденно не встречался с А. С. Паниной. Летом 1880 года ее дочь Софья тяжело заболела брюшным тифом. Девушку удалось выходить, спасти. Дабы уберечь дочь от дурных последствий болезни, А. С. Панина увезла ее во Флоренцию, где они провели зиму и весну 1881 года.
В январе 1881-го к Петрункевичу зашел жандармский полковник П. А. Есипов. Петрункевич было решил, что тот пришел с обыском. Но это было не так. Ему предстояло подготовить обзор о состоянии губернии за истекший год. Обычно он это делал по привычному шаблону. Но Лорис-Меликов требовал совершенно другого, и Есипов решил просить помощи Петрункевича. Со своей стороны, он обещал не править отчет без разрешения автора. Петрункевич подумал и на следующий день согласился. Для работы ему предоставили, по его выражению, «целый ворох бумаг», в том числе сведения о политическом движении во всей России.
Петрункевич провозился с обзором около двух недель. Он обнаружил в бумагах множество ошибок, что подтвердило его догадку о невысоком уровне компетентности полиции. В документе Петрункевич высказал свои собственные взгляды: поставил под сомнение цензурные ограничения, отметил необходимость упрочения принципов законности и недопустимость административного произвола. Тем не менее отчет был принят жандармским полковником и отправлен в Санкт-Петербург.