До пятнадцатилетнего возраста Петр жил на иждивении своих старших сестер — портних-надомниц Александры и Анны, успев с 1908 г. проучиться в 3-классном начальном училище и с 1911 г. — в 4-классном городском училище им. Д.И. Менделеева в Петрограде. С августа 1915 г. по февраль 1919 г. трудился раскладчиком-упаковщиком газет экспедиции петроградского почтамта. Работая там, в октябре 1917 г. записался в ячейку сочувствующих партии большевиков. Одновременно подрабатывал киномехаником в частных кинотеатрах «Марс» и «Волшебные грезы».
В феврале 1919 г. Федотов добровольно вступил в ряды Красной Армии рядовым бойцом 1-й Отдельной коммунистической Петроградской бригады, в рядах которой сражался на Восточном и Южном фронтах. В боях под Купянском и Валуйками был контужен и ранен. На фронте Федотова приняли в партию и в июле 1919 г. направили на политкурсы при политотделе Южного фронта. Будучи слушателем курсов принимал участие в боевых действиях против частей генерала Мамонтова, в сентябре 1919 г. направлен в 1-й Революционной дисциплины полк 8-й армии на должность политрука роты. В составе этого полка П.В. Федотов оказался на Северном Кавказе, где участвовал в боях с остатками белогвардейских частей в казачьих станицах, а также в Чечне и Дагестане, где был контужен. В конце 1920 года полк понес большие потери и был расформирован, а Федотов переведен на работу в Особый отдел 8-й армии в качестве цензора-контролера, затем служил начальником цензуры ОО Кавказской трудовой армии.
С января 1921 г. ответственный контролер цензуры, с февраля 1922 г. — начальник осведомительского отделения, а затем — Информационного отдела Грозненской ЧК. С 1922 г. — уполномоченный, с сентября 1923 г. — начальник КРО, с декабря того же года — заместитель начальника КРО-Восточного отдела Чеченского облотдела ГПУ. В Грозном Федотов работал под руководством Якова Дейча и Вениамина Абрамова, хорошо известных в чекистской среде. В 1922 г. «за усердную работу и постановку осведомительного аппарата в округе, особенно на промыслах, премирован кожаным костюмом».
В 1923–1924 гг. Федотов руководил крупной операцией по разоружению Ачхой-Мартановского района Чечни и ликвидации банды Мазы Шадаева. Принимал в разработке и ликвидации крупных вооруженных формирований (до 10 тысяч человек) шейха Али Митаева. Тогда же в первой служебной аттестации, его непосредственный начальник написал на Петра Федотова следующий отзыв:
«Как хорошо знающий все специфичности восточной работы в занимаемой должности незаменим. Отличный восточник в части работы чисто аналитической, знает и оперативную отрасль. Крайне усидчив, трудолюбив и дисциплинирован, хороший товарищ, нерешителен. Инициативу имеет, но недостаточно энергичен».
С марта 1924 г. Федотов — уполномоченный по систематизации материалов Военного отдела, с 14 января 1925 г. — помощник начальника КРО, а с декабря 1926-го — уполномоченный ОО Чеченского облотдела ГПУ. В этом качестве Федотов принимал непосредственное участие в «разоружении Чечни и Дагестана». Проведя основательную подготовительную работу, Федотов, в ходе ряда операций, будучи заместителем начальника опергруппы по району, руководил информационной и агентурной службами, степень организации которых по своим результатам получила высокую оценку командования. Это позволило верно ориентироваться в обстановке в период операции, обеспечив их успех. Под руководством Федотова, путем создания оперативных позиций среди местного населения, удалось без войсковой операции ликвидировать вооруженные формирования шейхов Ильясова, Ахаева и Аксалтинского.
С февраля 1927 г. Федотов служил в аппарате ПП ОГПУ по Северо-Кавказскому краю: с 1 февраля 1927 г. — уполномоченный КРО-ВО, с ноября того же года — вр. и. д. начальника 3-го отделения КРО, с октября 1930 г. — начальник 6-го отделения ИНФО, с января 1931 г. — сотрудник для особых поручений. В аттестации на Федотова этого периода говорится:
«Весьма добросовестный, честный и преданный работник. Свою работу знает хорошо, проявляет в ней большую инициативу. В выполнении заданий медлителен, что окупается чрезвычайной тщательностью работы и продуманностью подхода к ней».
Впоследствии эти качества отмечали в Федотове его сослуживцы. Сотрудник разведки, полковник Зоя Ивановна Рыбкина-Воскресенская написала на папке (в которой она хранила материалы для доклада Федотову) цитату из «Гамлета»: «Так погибают замыслы с размахом, вначале обещавшие успех от долгих отлагательств».
С ноября 1931 года Федотов возглавлял 2-е, 3-е отделения СПО ПП ОГПУ СКК. В январе 1934 г. после разделения Северо-Кавказского края на Азово-Черноморский (с центром в Ростове-на-Дону) и Северо-Кавказский (Пятигорск, с 1935 г. — Ворошиловск, ныне Ставрополь) края Федотов назначается начальником 2-го отделения СПО ПП ОГПУ СКК. После преобразования ОГПУ в НКВД в июле 1934 г. П.В. Федотов стал начальником 5-го отделения, с февраля 1936 г., по совместительству — помощником начальника СПО- 4-го Отдела УГБ УНКВД Северо-Кавказского края. С февраля 1937 года он — начальник 5-го отделения 4-го отдела УГБ УНКВД Орджоникидзевского края (так был переименован Северо-Кавказский край после смерти наркома тяжелой промышленности СССР). В январе 1936 года Федотову присвоено спецзвание старшего лейтенанта ГБ. В 1934 г. был награжден знаком «Почетного работника ВЧК-ГПУ».
Занимая должности в органах госбезопасности, Федотов большую часть своей службы на Кавказе был вне рядов партии. Но так было не все время. В партию большевиков он вступил еще в Петрограде в октябре 1918 г., но в марте 1922 г. «выбыл автоматически», о чем затем писал в автобиографии: «…вследствие политической незрелости и нерадивого отношения к партийным обязанностям и поручениям, пренебрегая советами старших товарищей учиться и активно участвовать в жизни парторганизации, я отошел от партии и механически выбыл из ее рядов, что с наступлением более зрелого возраста всегда решительно осуждал».
В то время это было распространенным явлением, так же как исключение из партии за «пассивность». Вновь в ВКП (б) Федотов вступил кандидатом в феврале 1932 г., партбилет получил уже в июле 1937 г. в Москве.
Проработав 16 лет на Северном Кавказе в Грозном, Ростове, Пятигорске и Ворошиловске под руководством известных чекистов — полпредов Е.Г. Евдокимова, Р.А. Пилляра, И.Я. Дагина, их заместителей — В.М. Курского, Г.Ф. Горбача, М.Г. Раева и других, Федотов становится частью «северо-кавказского клана», представители которого в 1936–1938 гг. при Ежове заняли большинство командных постов в центральном аппарате и местных органах НКВД. В отличие от других, Федотов был менее заметен и более осторожен, что, по всей видимости, и спасло его в 1939–1940 гг., когда большая часть северокавказских чекистов погибла в следующей, уже бериевской, чистке.
В ноябре 1936 г. путем объединения аппаратов Секретаря НКВД (этот пост занимал ближайший помощник бывшего наркома Ягоды старший майор ГБ Павел Петрович Буланов) и Оперативного секретаря наркома (им был известный северокавказский чекист Яков Абрамович Дейч, с 1931 г. работавший в Москве) был создан Секретариат НКВД СССР. Его начальником был назначен Дейч. Федотов служил под руководством Дейча в Грозном. 25 апреля 1937 г. Федотов был направлен в распоряжение Отдела кадров НКВД СССР, и уже 10 мая назначен помощником начальника Секретариата НКВД СССР — того же Дейча.
