Первым получил на вооружение танки Т-28 2-й отдельный танковый полк Ленинградского военного округа, затем — 1-й, 3-й и 4-й танковые полки. 12 декабря 1935 года эти полки развернули в отдельные тяжёлые танковые бригады (ттбр), состоящие из трёх линейных танковых батальонов, учебного батальона, батальона боевого обеспечения и других подразделений. Бригады дислоцировались: 1-я ттбр — Белорусский военный округ (г. Смоленск), 4-я ттбр — Киевский военный округ (г. Киев), 5-я ттбр — Харьковский военный округ (г. Харьков) и 6-я ттбр имени С. М. Кирова — Ленинградский военный округ (ЛВО) (г. Слуцк). Причём 5-я ттбр была смешанного состава, наряду с Т-28 в ней были и тяжёлые танки Т-35. Приказом наркома обороны от 21 мая 1936 года бригады выделили в Резерв Главного Командования. Они предназначались для качественного усиления стрелковых и танковых соединений при прорыве укреплённых позиций противника. В соответствии с этим велось и обучение танкистов. Подготовка танкистов на Т-28 осуществлялась во 2-й запасной танковой бригаде ЛВО, Орловском бронетанковом училище, а также на Ленинградских бронетанковых курсах усовершенствования командного состава.
Небезынтересно привести «Расчёт боевого экипажа танка Т-28» по состоянию на январь 1936 года:
«Командир танка (лейтенант) — помешается в главной башне № 1 справа от орудия у перископа. Ведёт огонь из ДТ, заряжает при помощи радиста орудие, командует танком.
Техник танковый младший (воентехник 2 ранга) — помещается в передней части танка в отделении управления. Непосредственно управляет движением танка, отвечает за его техническое состояние. Вне боя руководит подготовкой механиков-водителей и моториста.
Механик-водитель (старшина) — помешается в башне № 2, ведёт огонь из пулемёта, обеспечивает уход за мотором.
Командир артиллерийской башни (младший командир взвода) — помешается в башне № 1 слева, ведёт огонь из 76-мм орудия. Отвечает за состояние вооружения танка. Вне боя руководит подготовкой пулемётчиков.
Командир пулемётной башни № 3 (отделенный командир) — помешается в башне № 3, ведёт огонь из пулемёта. Обеспечивает уход за ходовой частью танка.
Радиотелеграфист (отделенный командир) — помещается в башне № 1, обслуживает радиостанцию, в бою помогает заряжать орудие.
Механик-водитель младший (младший командир вывода) — находится вне танка. Обеспечивает постоянный уход, чистку и смазку трансмиссии и ходовой части в предбоевой обстановке и после боя.
Моторист (младший технический состав) — находится вне танка. Обеспечивает постоянный уход за мотором, его чистку и смазку».
Первые манёвры с участием Т-28 прошли в ЛВО в январе 1934 года. В них принимало участие 15 танков. Самое большое количество Т-28, одновременно задействованных в манёврах — 52 машины 1-й тяжёлой танковой бригады во время учений Белорусского военного округа 8–17 октября 1936 года. В докладе об этом говорилось: «Танками пройдено 250 километром за три дня боя. Мы имеем хорошие отзывы из частей о тактико-технических характеристиках Т-28, однако в части качества машин Кировский завод сделал ещё не всё».
Танк Т-28 на учениях по преодолению препятствий. Белорусский военный округ, 1-я тяжёлая танковая бригада, лето 1936 года (АСКМ).
Ещё одним мероприятием, в котором регулярно участвовали танки Т-28, были парады. Начиная с 1934 года и до начала Великой Отечественной войны они регулярно 1 мая и 7 ноября проходили по Красной площади в Москве, площади имени Урицкого (ныне Дворцовая) в Ленинграде (ныне Петербург) и по Крещатику в Киеве. Количество Т-28, участвовавших в парадах, обычно не превышало 20 машин в Москве и по 10–12 в Ленинграде и Киеве.
По состоянию на 1 января 1938 года в Красной Армии имелось 262 танка в следующих частях и соединениях:
Харьковский военный округ:
5-я ттбр (г. Харьков) — 16;
Приволжский военный округ:
Ульяновское бронетанковое училище — 1;
Казанские пехотные курсы — 2;
Ульяновское училище особой техники — 2.
Киевский военный округ:
4-я ттбр (г. Киев) — 80.
Московский военный округ:
ВАММ имени Сталина — 5;
Орловское бронетанковое училище — 3;
Горьковское бронетанковое училище — 1;
отдельная химическая рота 2-го стрелкового корпуса — 1;
НИБТ полигон — 3.
Ленинградский военный округ:
6-я ттбр им. Кирова (г. Слуцк) — 57;
2-я запасная танковая бригада — 6;
Ленинградские бронетанковые курсы усовершенствования командного состава — 4;
Ленинградское училище танковых техников — 3.
Белорусский военный округ:
1-я ттбр (г. Смоленск) — 65.
Вне округов:
Кировский завод — 2 (в ремонте) и не отправленных новых танков — 11.
Танк Т-28 21-й тяжёлой танковой бригады форсирует речку у местечка Мир. Польша, сентябрь 1939 года (ЦМВС).
В 1939 году тяжёлые танковые бригады перешли на новый штат, а также сменили нумерацию: 5-я стала 14-й, 4-я — 10-й, 1-я — 21-й, а 6-я — 20-й им. Кирова.
В сентябре 1939 года состоялось боевое крещение танков Т-28. В составе войск Украинского и Белорусского фронтов две тяжёлых бригады — 10-я и 21-я — участвовали в «освободительном походе» Красной Армии в Польше.
К моменту перехода частями Красной Армии советско-польской границы — 17 сентября 1939 года — в составе 10-й тяжёлой танковой бригады, которой командовал полковник Иванов, числилось 98 Т-28, 30 БТ-7, 10 ХТ-26 и 19 бронемашин. В оперативном отношении бригада подчинялась командующему Винницкой армейской группы Украинского фронта. По первоначальному плану перевозка бригады в район сосредоточения у государственной границы должна была закончиться 15 сентября, но из-за несвоевременной подачи эшелонов выгрузка последних подразделений прошла только 19 сентября, когда боевые порядки бригады находились под Львовом.
К моменту перехода границы 10-я тяжёлая танковая бригада имела в своём составе два танковых батальона и разведывательную роту (58 Т-28 и 20 БТ-7), а остальные части были ещё в пути.
В 10.00 17 сентября 10-я танковая бригада перешла границу, форсировав реку Збруч в районе Молчанувка, а в 13.00 командир Винницкой армейской группы комкор Голиков отдал приказ: ударом с востока по шоссе Волочиск — Тарнополь овладеть Тарнополем. Для усиления бригады на броню танков посадили батальон пехоты. В 18.30 в Тарнополь вошёл 1-й батальон Т-28, а в 19.30 — 2-й батальон с пехотой, и до наступления темноты танкисты разоружали польские части, а также захватили переправы через реку Серет.