1926年6月，廣州國民政府誓師北伐。彼時，廣東駐軍有六支：

第一軍：何應欽（蔣系）

第二軍：譚延闓（湘軍）

第三軍：朱培德（贛軍）

第四軍：李濟深（粵軍）

第五軍：李福林（粵軍）

第六軍：程潛（湘軍）

國民政府任命李濟深為國民革命軍總參謀長，統帥第四軍一部、及第五軍留守廣東，其餘各軍悉數參加北伐。

第四軍當時編制：軍長：李濟深；副軍長：陳可鈺。

下轄四師：

陳銘樞第10師，副師長蔣光鼐，下轄蔡廷鍇、孫繩、戴戟三團；

陳濟棠第11師，副師長鄧世增，下轄餘漢謀、香翰屏、黃鎮球三團；

張發奎第12師，副師長朱暉日，下轄許志銳、繆培南、黃琪翔、葉挺四團；

徐景唐第13師，副師長陳章甫，下轄雲瀛橋、陸蘭培、陳章甫三團；

李濟深命令陳可鈺率領陳銘樞、張發奎兩師參加北伐。

1927年1月，北伐軍佔領武漢後，在唐生智擴軍的影響下，張師長發奎已不甘繼續做師長，他要做軍長，而且是第四軍軍長。李濟深在與前線各將領協商後，決定第12師擴編為第四軍，軍長張發奎；第10師擴編為第十一軍，軍長陳銘樞，同時兼任武漢衛戍司令；陳可鈺返回廣東，原留守廣東的第四、第五軍，則改編為第八路軍。

1927年4月，蔣介石在南京宣佈清黨。對此，李濟深表示支持，張發奎則左傾反蔣，而陳銘樞則早在3月6日，便因武漢的反蔣空氣，憤而離漢，赴南京投奔蔣介石，第十一軍蔣光鼐、戴戟、楊其昌等亦相繼隨陳銘樞掛冠而去。

6月13日，武漢政府晉升張發奎為第二方面軍總指揮，下轄三個軍，在南昌至九江一線集結，準備東下討伐蔣介石。張發奎任命黃琪翔為第四軍軍長，朱暉日為第十一軍軍長，賀龍為第二十軍軍長，葉挺改任第十一軍24師師長。

8月1日，葉挺勾結賀龍、朱德等人，發動南昌暴動。有趣的是，葉挺欺騙同僚第10師師長蔡廷鍇，謂此次暴動系由張發奎領導，蔡乃率部參加。

8月4日，周恩來、葉挺、賀龍等人在張發奎、朱培德諸軍壓迫下，經蘇俄顧問建議，決定棄南昌南下粵東，建立紅色根據地。

而蔡廷鍇已知被騙，8月9日於南下途中覓機脫離共軍。在進賢，蔡廷鍇打電話給張發奎，用廣東粗話咒駡張，認為張反對蔣介石，簡直是喪心病狂。蔡氏在槍決該師30餘名共產黨員後，與陳銘樞、蔣光鼐取得了聯繫，率部開赴福州，南京國民政府隨後發表陳銘樞複任第十一軍軍長。

共軍入粵後，李濟深立即調集陳濟棠、薛岳、徐景唐、鄧世增各師，並第七軍廣西留守部隊，將共軍圍困於粵東潮汕地區；張發奎亦率第四軍尾隨共軍入粵，一時間在粵原第四軍許多將領皆摩拳擦掌，意欲狙擊張軍，李濟深頗為大度，表示歡迎張發奎歸來，並再度聲明國民革命軍第四軍之番號屬於張發奎部。

然張發奎入粵後並未加入潮汕會戰，而是趁廣州兵力空虛，入據南粵首府。

10月初，共軍在潮汕潰敗，葉挺、周恩來潛逃香港，殘部800余人由朱德、陳毅率領逃往湘南。

10月2日，張發奎、薛岳面見李濟深，要求李通電反對新桂系柄政之南京國民政府，擁護汪精衛為領袖，薛岳甚而淚流滿面，李濟深則堅決不允。

11月15日，李濟深離粵赴滬參加國民黨四中全會預備會。16日夜，張發奎、黃琪翔聯同李濟深部之薛岳、黃鎮球兩師，及李福林第五軍，發動廣州事變，聲稱打倒李濟深、黃紹竑等新軍閥，並對南京國民政府大加抨擊。當然，這一切都是汪精衛幕後策劃的。

李濟深、李宗仁、白崇禧、黃紹竑等要求國民政府立即武力討伐，汪精衛則表示應談判和平解決。張發奎索性一不做二不休，命令第四軍主力溯江而上，準備入寇廣西，一舉統一兩廣，作為與南京政府對抗之根據地。

同時，國民黨著名左派鄧演達一直與黃琪翔保持聯繫，黃表示同情中共，並收容中共廣東省委常委惲代英潛伏於其家中，有趣的是，張發奎也住在那裡。

12月11日，第四軍主力離穗後，該軍參謀長葉劍英在蘇俄支援下，邀回葉挺，率領第四軍警衛團、教導團各一部發動廣州暴動。

說來有趣，叛軍在黃琪翔公館周圍走來走去，卻無人進入宅內抓人。多年以後，葉挺、葉劍英表示，當時都誤以為對方已經下令捕張；而葉劍英在去世之前的回憶錄中坦言，當時最希望張發奎被流彈擊中，一了百了，如果真的五花大綁押至面前，還真不知道是殺是放。

張發奎、黃琪翔逃出公館後，搭乘李福林所提供船隻至肇慶，命第四軍立即回師廣州，與薛岳、黃鎮球等夾擊叛軍。

廣州事變，殺戮慘酷，張發奎下令凡佩戴紅巾者一律格殺，而中共廣東省委書記張太雷、農運大王澎湃、工人赤衛隊總指揮周文雍等，則下令凡不戴紅巾者視為白匪，同樣格殺。

12月13日，共軍暴動被鎮壓，張太雷被擊斃，餘者四散而逃。張發奎下令將蘇俄駐廣州總領館包圍，逮捕俄領事，薛岳甚至要將俄國人無論男女老幼一概槍決，而僅僅半年之前，他還是一個左傾分子。南京國民政府宣佈與蘇俄斷交，將其各地使領館全部關閉，驅逐所有蘇俄僑民。而史達林則表示只承認北京北洋軍政府。至此，1923年中國國民黨與蘇俄達成的《孫文越飛宣言》，宣告壽終正寢。

12月14日，南京國民政府宣佈解除張發奎、黃琪翔、朱暉日等一切職務。18日，張發奎任命繆培南、薛岳繼續指揮第四軍，他本人與黃琪翔避往香港。

李濟深調集陳銘樞第十一軍、陳濟棠、徐景唐兩師，及第七軍黃旭初、伍廷颺、呂煥炎三個師，1928年1月14日至19日，在粵東北的五華地區與第四軍五個師展開決戰，張部勇將許志銳陣亡，黃鎮球重傷，官兵戰死逾半數。手足相殘，莫過於此。蔣介石、汪精衛，乃元兇巨惡，罪在不宥。

蔣介石在與宋美齡小姐喜結良緣的同時，收買拉攏唐生智、張發奎部，讓他們拼死對抗李宗仁、李濟深，以使他自己能借機東山再起，從容奪回中央政府執政權。

1928年1月9日，蔣介石在南京複任國民革命軍總司令，遂指示繆培南、薛岳，令其率殘部避入贛東北。

李濟深回到廣州後，在泰康路勒刻石碑：“在汪精衛與共產黨員陳公博、張發奎、黃琪翔領導下發生了廣州暴動。”，以此羞辱汪、張一夥。

在張發奎來往上海時，蔣介石命令戴笠、杜月笙保護張發奎之安全，以防李宗仁、李濟深刺殺張發奎。而第四軍則在繆培南率領下跟隨蔣介石第一集團軍，參加了其後的二次北伐。

1928年底，張學良通電易幟，就任國民政府東北邊防軍總司令，全中國終於統一在青天白日滿地紅之下。

1929年3月，蔣介石準備消滅李宗仁新桂系，遂命張發奎複任第四軍軍長，率部入鄂作戰；不久，新桂系土崩瓦解，部分第七軍官兵向張發奎投降。

蔣介石見第四軍收編第七軍殘部後，兵力壯大到四個師，深恐其尾大不掉，乃命張發奎部移駐蘇北海州，其宜昌防區交由曹萬順之暫編第一師接防，準備在張軍途經南京時，將其繳械。

9月17日，曹師抵達宜昌，立即被第四軍繳械。蔣介石聞訊大怒，再命新編第十三軍李韞珩38師，追擊開往湘西的第四軍，結果在慈利遭到第四軍吳奇偉第12師伏擊，大敗而回。

蔣介石又命湖南新軍閥何鍵出兵攔截，何部劉建緒師與李韞珩合力與第四軍激戰多日，仍未能阻止張軍南渡沅江。

不久，汪精衛派薛岳至第四軍協助張發奎。11月24日，張發奎與新桂系代表黃紹竑在廣西梧州會晤，雙方達成一致，組成聯軍東下攻粵。