1927年4月6日，武汉国民政府任命冯玉祥为国民革命军第二集团军总司令。5月1日，冯玉祥任命石敬亭为总参谋长，刘伯坚为政治部主任。部队也按国民革命军编制进行了改组，开始积极准备挥师东进，配合南方的北伐军夹击河南境内的张作霖部，以实现会师郑州、完成北伐大业。
从北伐开始，到1926年底这段时间里，北伐军节节胜利，无坚不摧，中国的统一大业眼看就要完成了。但这时，却在革命阵线内部发生了不该发生的事情。
1926年12月10日，外交部长陈友仁、财政部长宋子文、交通部长孙科、司会部长徐谦、苏联顾问鲍罗廷一行60人到达武汉，筹备将国民政府及中央党部迁到武汉一事时，蒋介石开始利用迁都问题，公开国民政府闹分裂。
1927年1月3日，他以首都应该建在前线，设在总司令部的所在地为借口，决定将首都设在南昌。从而挑起了建都之争。在他的目的没有达到的情况下，蒋介石便赖在南昌不到武昌去。李宗仁说蒋介石这是“私心自用”。蒋介石自己也知道这点，但他更清楚，如果他随国民政府一起到武昌，那他下一步“挟天子以令诸侯”的计划就会落空，那里没有人会支持他，没有人会听他的话。