И действительно, в январе 1923 г. Москва пообещала Сунь Ятсену оказать помощь в объединении Китая, а в конце года в качестве советника Сунь Ятсена в Китай прибыл специальный посланник советского правительства М. Бородин. За ним последовало около 1000 военных советников и специалистов. Вооруженные силы ГМД стали интенсивно насыщаться советским вооружением и военной техникой. Предполагалось, что в ходе предстоящих боев Гоминьдан сможет установить контроль по крайней мере над югом и востоком страны.
При этом между ГМД и КПК продолжали сохраняться странные отношения. В отличие от компартии, в Гоминьдане вплоть до 1923 г. не было ни программы, ни устава. Организационная структура оставалась расплывчатой, все руководство осуществлял сам Сунь Ятсен. Несмотря на принципиальные разногласия между двумя политическими организациями и острое соперничество в борьбе за власть, рядовым коммунистам было разрешено вступать в Гоминьдан.
Но столкновение между националистами и коммунистами становилось неизбежным.
В марте 1925 г. умер Сунь Ятсен. Сталин решил воспользоваться этим для усиления советского влияния в высших властных эшелонах Гоминьдана: так он хотел обеспечить доминирующее положение в ГМД китайских коммунистов, которые затем могли бы окончательно «оседлать» революционное движение в Китае. Его планам, однако, активно мешал ближайший военный советник Сунь Ятсена – Чан Кайши, одновременно возглавлявший военную академию «Вампу». В марте 1926 г. он осуществил в Кантоне военный переворот, изгнал из города коммунистов, а спустя три месяца был избран председателем Гоминьдана и главнокомандующим вооруженными силами. Добившись высшей власти, Чан Кайши приблизил к себе выпускников академии, которым он доверял, стал перестраивать свою армию по европейскому образцу, пригласив с этой целью немецких советников во главе с бывшим генерал рейхсвера фон Сектом. Немецкие советники, сделав особый акцент в обучении гоминьдановской армии на умении вести позиционную войну, сыграли в её дальнейшей судьбе не самую лучшую роль.
В 1926 г. Национально-революционная армия Китая Чан Кайши предприняла так называемый Великий Северный поход. В течение шести месяцев непрерывных боев от власти местных военных правителей были освобождены центральные районы Китая. В начале 1927 г. части Гоминьдана захватили г. Шанхай, крупнейший промышленный и торговый центр страны. Именно здесь 12 апреля 1927 г. Чан Кайши пошел на открытый развал единого фронта КПК и ГМД: его войска начали разоружение шанхайских рабочих отрядов и дружин. Для разгона народных демонстраций гоминьдановские войска применили оружие, начались массовые аресты и казни профсоюзных деятелей и коммунистов. Эти события захватили и другие крупные города Китая.
18 апреля Чан Кайши сформировал в Нанкине новое китайское правительство, после чего последовало окончательное изгнание из страны советских военных советников. Казалось, странный «союз» Москвы и Гоминьдана завершился. Советский советник М. Бородин, покидая Китай, рекомендовал китайским коммунистам уйти в подполье и оттуда организовать вооруженное сопротивление Гоминьдану.
ГМД и КПК уже не скрывали своего антагонизма. Дело стало доходить до прямых вооруженных столкновений. В декабре 1927 г., по рекомендации Сталина, было поднято коммунистическое восстание в Кантоне, которое гоминьдановцы жесточайшим образом подавили после четырех дней кровопролитных боев. С ликвидацией кантонской коммуны дипломатические отношения между Москвой и гоминьдановский правительством были разорваны.
Тем временем ГМД успешно наступал по всей стране. В 1928 г. его войска овладели Пекином. Однако, несмотря на все попытки Чан Кайши окончательно расправиться с коммунистическим подпольем, КПК не просто выжила, но и укрепила свои силы. Вынужденная отступать под нажимом Гоминьдана, она закрепилась вместе со своими вооруженными отрядами в горных приграничных районах провинций Цзянси, Хубэй и Хунань. Там была установлена китайская советская власть и начато формирование Китайской Красной армии.
Именно в этот период Мао Цзэдун, находясь с отрядом в 1 тысячу человек в Цзинганшани в провинции Цзянси, сформулировал свои основные «идеи в военной области», которые позже станут идеологической основой КПК и ее вооруженных сил. Говоря о массовом героизме бойцов новой революционной армии, Мао писал: «Мы – партия трудящегося народа, жестоко угнетаемого, мы – партия революции, которая сметет всю гниль с этой земли. Смерть – это только физический уход из жизни. И если человек, а тем более коммунист, может своей смертью, умом, храбростью принести пользу, то он не должен задумываться».
На I Всекитайском съезде Советов, проведенном в ноябре 1931 г. в Центральном советском районе в Цзянси, было сформировано советское правительство Китая во главе с Мао Цзэдуном. К этому времени вооруженные силы коммунистов контролировали территорию с населением свыше 60 млн человек, а в Китайской Красной армии насчитывалось 150 тысяч бойцов.
Гоминьдановские силы, которым продолжали оказывать помощь западные военные советники, не оставляли попыток разгромить коммунистов. В качестве советников у Чан Кайши действовали офицеры Германии: полковник В. Бауэр (друг Гитлера и ученик Людендорфа), нацист подполковник Крибель, генерал-лейтенант Ветцель, генерал Сект, генерал Фалькенхаузен и др. Гоминьдановцы старательно перенимали опыт нацистов по наведению порядка в стране. Китайские офицеры в организованном порядке направлялись на обучение в Германию
.
Для борьбы с коммунистическими опорными базами в горах применялись артиллерия и авиация, активно действовали репрессивно-карательные отряды, полиция, разведка и контрразведка ГМД. К середине 30-х гг. положение КПК и ее вооруженных сил стало критическим. Под натиском превосходящего противника 15 октября 1934 г. коммунистические войска численностью около 100 тысяч человек были вынуждены начать знаменитый Великий поход: КПК перебазировалась из горных районов Цзянси сперва на запад, а затем – на север, в провинцию Шэньси. Основные силы Китайской Красной армии соединились в Шэньси в конце 1936 г., преодолев с боями за прошедшие почти два года путь в 13 тысяч километров. Всего 20 тысячам китайских партизан удалось пережить этот полный трудностей и лишений поход. Там, на севере Китая, Мао Цзэдун основал новую опорную базу – Особый район Шэньси-Ганьсу-Нинся, а Яньань стала фактически столицей коммунистического Китая.
В этих условиях Мао Цзэдуну неожиданно помогла международная обстановка: осенью 1931 г. агрессию против Китая начала Япония. Ослабленный длительной и кровопролитной гражданской войной, раздираемый внутренними противоречиями, Китай не смог найти в себе сил для должного отпора. 18 сентября после серии провокаций японцы перешли в наступление, за короткое время оккупировав всю Маньчжурию. В марте 1932 г. здесь было провозглашено прояпонское марионеточное государство Маньчжоу-Го, которое возглавил Пу И – последний отпрыск маньчжурской династии Цин, свергнутой в Китае в годы Синьхайской революции.
Однако даже внешняя агрессия, борьба с которой стала главной задачей всех патриотических сил Китая, не смогла сплотить коммунистов и гоминьдановцев во имя освобождения родины.
7 июля 1937 г. конфликтом у моста Лугоуцяо недалеко от Пекина началась «большая» война. С этого момента, по мнению китайских историков, начинается Вторая мировая война в Азиатско-Тихоокеанском регионе, закончившаяся только в сентябре 1945 г. Действуя силой и хитростью, японцы уже к августу заняли Пекин и Тяньцзинь. Три месяца продолжались бои за Шанхай, закончившиеся его падением. В декабре того же года пала и тогдашняя китайская столица город Нанкин. К концу 1938 г. гоминьдановцы были вынуждены оставить практически все города Восточного и Центрального Китая.