Свой штаб он разместил в великолепной, стилизованной под старину вилле с видом на реку. Однако уже в мае положение Мао пошатнулось в связи с тем, что из Шанхая прибыл Лю Аньгун, назначенный человеком номер три в армии Чжу и Мао. Лю Аньгун только что прибыл из России после курса военного обучения. Его привело в ужас и то, как Мао поступил с Чжу, и то, как он управлял армией. Он обвинил Мао в захвате власти, в диктаторских замашках и «формировании собственной системы и неподчинении руководству».
Мао больше не мог скрывать совершенный им переворот. 1 июня 1929 года, почти четыре месяца спустя после того, как Чжу был вышвырнут им из власти, Мао написал в Шанхай, что «армия приняла решение временно упразднить должность Чжу в свете особой ситуации». Он очень постарался представить это событие как незначительное, обозначив его номером 10 в длинном докладе из 14 пунктов. В остальном доклад был выдержан в очень послушном, даже льстивом, тоне и насыщен словами о том, как Мао жаждет указаний партии. «Прошу вас… учредите специальную службу связи» для прямого сообщения с Шанхаем, и далее: «Для первоначального финансирования службы у нас имеется опиума на 10 тысяч юаней». Мао готов был применить любые средства, даже деньги, вырученные от продажи наркотиков, лишь бы заручиться поддержкой Шанхая в захвате власти в армии.
Получив поддержку в лице Аньгуна и передышку в боях против националистов, Чжу Дэ готов был к противостоянию с Мао. Большая часть армии поддерживала его. Мао был крайне непопулярной личностью — официальный отчет в Шанхай гласил: «Массы в целом недовольны Мао», «Многие товарищи разочарованы в нем», «его считают диктатором», «У него дурной нрав, ему нравится издеваться над людьми». Для поддержания равновесия Чжу там тоже порицали, но за гораздо более невинные вещи: «бахвальство», например, или то, что он «закатывает штаны до колен и становится похож на хулигана, лишенного всякого достоинства».
Тогда среди коммунистов еще приняты были демократические процедуры, все вопросы открыто обсуждались, и решения принимались голосованием. Представители партии в армии встретились 22 июня 1928 года и по результатам голосования решили сместить Мао с должности партийного руководителя и восстановить Чжу в положении военачальника. Мао позже напишет, что чувствовал себя в этот период «очень одиноко». Перед голосованием он даже угрожал: «У меня есть собственный отряд, я буду сражаться!» Но реально сделать он ничего не смог — все сочувствующие ему были разоружены еще до собрания.
Потеряв власть над армией, Мао стал думать, что же обрести взамен. Он решил стать главным в завоеванной провинции Фуцзянь возле юго-восточного побережья и сформировать в ней новые, собственные красные части. Это был самый богатый край из всех, что находились в руках у коммунистов, население его составляло около четверти миллиона. Мао заявил новому руководству армии, что раз его сместили, то он пойдет «работать с местными жителями». Никто не понял, что это заявление было лишь прикрытием Мао для того, чтобы явиться без «приглашения», встать во главе местных коммунистов и занять руководящий пост в их организации.
Мао покинул штаб на носилках (паланкине), в сопровождении жены и нескольких верных последователей. Один из них вспоминал впоследствии: «Когда мы уходили… у нас конфисковали лошадей, так что шествие наше выглядело довольно уныло». Упавшая духом группа направилась в Цзяоян, где Мао с помощью близкого друга удалось созвать съезд. База там была создана, в частности, благодаря армии Чжу и Мао, так что у Мао оставалось некоторое влияние, хотя Шанхай доверил местную партийную власть не ему, а Фуцзяньскому комитету. Мао собирался использовать этот съезд для того, чтобы внедрить товарищей, покинувших армию вместе с ним, на руководящие посты.
К 10 июля в Цзяояне собралось около пятидесяти местных делегатов, которым сообщили, что съезд начнется на следующий день. Вместо этого Мао отослал их на целую неделю с целью, как он позже напишет, «проведения всестороннего изучения обстановки». Когда же съезд наконец открылся, Мао сказался больным и снова отложил встречу. Как позже проговорился его секретарь, на самом деле Мао не был болен. В докладе же между тем сообщалось, что съезд «затянулся», «работа ведется вяло», «процесс идет уже двадцать дней», а правительственные войска между тем подходят все ближе. Поэтому в том же докладе далее говорилось, что «получены новости о том, что подходят войска [националистов]… поэтому фронтовой комитет… изменил планы… и съезд… закрывается».
Делегаты уехали, так и не проголосовав по поводу кандидатов на ключевые должности. Как только все разъехались, Мао раздал эти должности своим приспешникам, выдав это за решение съезда. Один из его людей стал таким образом фактическим главой местных сил Красной армии. Все товарищи Мао были хунаньцами и даже разговаривать на местном диалекте не умели.