1927年1月底，武漢國民政府宣佈第四軍陳銘樞第10師擴編為第十一軍，張發奎12師擴編為第四軍，原留守廣東的第四軍改編為國民革命軍新四軍。

2月初，第八軍軍長唐生智將黔軍軍閥第九軍軍長彭漢章逮捕，黔軍領袖第十二軍軍長袁祖銘被處決；第十二軍被唐生智兼併，第九軍賀龍第1師改編為獨立15師，隸屬張發奎第四軍；楊其昌第2師改編為26師，隸屬陳銘樞十一軍。

時第四軍編制為：軍長張發奎，副軍長黃琪翔，轄三師：黃琪翔12師、朱暉日25師、賀龍獨立15師；葉挺此時任25師副師長兼73團團長。

第十一軍編制為：軍長陳銘樞，副軍長蔣光鼐，轄三師：蔣光鼐第10師、戴戟24師、楊其昌26師。

李濟深所部新四軍亦擴編新2師、新3師兩個師。何應欽第一軍薛岳第1師參謀長葉劍英，因內心支持共產黨，見蔣介石反共意圖日益明顯，遂離職返粵，獲聘為新2師師長；新3師師長則由李濟深好友黃慕松出任。

時新四軍編制為：軍長李濟深，副軍長陳可鈺，轄四師：陳濟棠11師、徐景唐13師、葉劍英新2師、黃慕松新3師。

3月，時任武漢衛戍司令的第11軍軍長陳銘樞，不堪忍受武漢方面的反蔣空氣及共產黨的跋扈，辭職赴南昌追隨蔣介石；該軍第10師師長蔣光鼐、副師長范漢杰、24師師長戴戟亦隨陳銘樞同赴南昌；26師師長楊其昌見政治風雲詭譎，自己亦非第四軍老班底，遂明哲保身，告病離職。

武漢國民政府隨即發表張發奎兼任11軍軍長，其武漢衛戍司令一職則由第八軍軍長李品仙取代；

接手11軍後，張發奎以第24師副師長蔡廷鍇升任第10師師長；以葉挺升任24師師長；以12師34團團長許志銳升任26師師長。

4月12日，蔣介石宣佈反共清党，李濟深立即在粵響應，對粵省黨政軍各級機關及黃埔軍校的中共分子展開清洗；

此時，出現了一個很有趣的情況，蔣介石要反共，但他自己的嫡系第一軍，支持同情共產黨的為數甚多，於是正式清黨之前，他解除了大批第一軍軍官的職務，這其中就包括了第1師師長薛岳，薛岳被胡宗南取代後，含恨返回廣東；

李濟深在廣東清黨後，其新2師師長葉劍英見李濟深對共產黨人之鎮壓，較蔣介石更加殘酷，遂憤而辭職，赴武漢投奔其故友黃琪翔，經黃引薦給張發奎後，獲任第四軍參謀長；

而李濟深則邀請在粵閒居的薛岳接替葉劍英新2師師長職，薛岳雖然亦不滿李濟深反共手段之殘酷，但居然也受邀赴任了。

4月18日，蔣介石在南京成立國民政府；武漢汪精衛立即宣佈開除蔣介石各項職務，予以通緝；此前離開武漢的陳銘樞，被蔣介石任命為國民革命軍總政治部副主任，蔣光鼐則接替親共的第一軍22師師長塗思宗，出任該師師長；范漢杰則接替王俊，任浙東警備師師長。

5月1日，南京、武漢同時揮師北伐。張發奎留下葉挺24師駐守武昌，率領其餘5個師開赴河南前線；至5月底，張發奎部大破張學良奉軍於臨潁，張學良率殘部逃往黃河北岸，奉軍第11軍富雙英12旅向張發奎投誠，收編為第四軍21師；此前，第八軍夏鬥寅獨立14師宣佈反共，進軍武漢，結果被葉挺24師擊潰，夏鬥寅逃往安徽投奔蔣介石，受任為新10軍軍長；

有一個共產黨員必須要提，此人叫做蔣先雲。黃埔一期的入學考試、畢業考試，蔣先雲均為第一名；北伐開始後，深受蔣介石喜愛的蔣先雲一直在國民革命軍總司令部擔任侍從秘書；1927年，國共矛盾日趨激烈，蔣先雲愛護中共、敬佩蔣介石，他對蔣介石、張國燾、周恩來等痛哭陳詞，認為如果雙方自相殘殺，中華民族便不會有燦爛的未來；當確認雙方勢必以血見面，無任何可能轉圜後，蔣先雲決心死在北伐戰場上，以自己的鮮血貢獻於革命。

離開總司令部的蔣先雲，任職第十一軍26師77團團長；在臨潁，蔣先雲終於求仁得仁。