張作霖和馮玉祥，誰是直系的頭號敵人？吳佩孚和他的部下看法有很大不同，孫傳芳和靳雲鶚認為奉系是直系不共戴天之死敵，而馮玉祥如果幡然悔悟，還是可以讓他回歸直系的；

吳佩孚則認為在中國的土地上，南方的國民黨，東北的馬匪，都未必一定要武力解決，唯獨馮玉祥和他的叛軍必須全部剷除；

奉軍佔領北京，國民軍退往南口後，直軍前敵總指揮靳雲鶚、直魯聯軍總司令李景林、南京的孫傳芳與國民軍達成一致，聯合剷除張作霖、張宗昌、閻錫山的勢力。李景林加入這個聯盟，是因為張作霖始終對他在郭松齡兵變中所扮演的角色無法原諒，李景林遂決意與奉張決裂以求自保。

1926年5月13日，在吳佩孚的支持下，顏惠慶宣佈以國務總理代行總統職權；

5月16日，黃埔軍校南寧分校成立，由國民革命軍第7軍第2旅旅長俞作柏任校長；其第2旅與夏威第6旅合併，夏威任第2旅旅長。俞作柏被解除軍隊指揮權的原因，系因李宗仁認為俞氏的政治面貌左傾親共；

5月18日，宋哲元率8萬國民軍精銳對山西展開猛攻；閻錫山晉軍在大同至雁門關一線拼死據守；

很可惜，靳雲鶚與國民軍的往來密電被閻錫山截獲；而李景林準備截斷奉軍退往關外的去路，並和孫傳芳南北夾擊張宗昌的情報，也被張景惠查獲；

5月26日，吳佩孚離開武漢，率劉玉春衛隊旅北上赴京與張作霖會晤；

5月30日，張宗昌先下手為強，將李景林逮捕；張作霖隨後下令將李景林部包圍繳械；

5月31日，吳佩孚抵石家莊，立即解除了靳雲鶚聯軍副總司令職務；

6月5日，國民政府通過了「出師北伐案」，任命蔣介石為國民革命軍總司令，唐生智為前敵總指揮兼湖南省主席，李濟深為總參謀長兼廣東省主席兼黃埔軍校副校長，留守廣東大本營，白崇禧為副總參謀長，鄧演達為總政治部主任。

6月6日，吳佩孚將華北直軍編為四個軍，重新對國民軍展開總攻；

對於湖南葉開鑫的求援電報，吳佩孚令貴州袁祖銘出師湘西，令孫傳芳自江西、福建進攻湖南、廣東；但袁祖銘此時已與國民政府有所聯絡，而孫傳芳一直對吳佩孚聯合奉系打擊國民軍極為不滿，此時在南京正與蔣介石的代表何成浚進行談判，蔣介石希望孫傳芳歸附國民政府，孫則堅持國民政府一日不打倒共產黨，便絕無合作可能；對於三民主義，孫傳芳表示他是擁戴的。

6月18日，李宗仁離粵返回廣西，部署第七軍北伐事宜；第七軍建軍時共九旅21團四萬餘人，共出動四個旅12個團組成北伐第七軍，其餘9個團由黃紹竑指揮，留守廣西；政治部主任共產黨員黃日葵令其留駐廣西，另以較為反共的國民黨人麥煥章出任北伐第七軍政治部主任；由於第七軍參謀長白崇禧出任北伐軍副總參謀長，因而以王應榆出任參謀長；

北伐第7軍：李明瑞第1旅、夏威第2旅、胡宗鐸第7旅、鐘祖培第8旅；

留守第7軍：劉日福第3旅、黃旭初第4旅、伍庭颺第5旅、呂煥炎第9旅。

鄧演達、周恩來、郭沫若對於李宗仁、黃紹竑排斥共產黨人極為憤慨，向蔣介石要求對李宗仁等予以嚴懲，但蔣此時對廣西軍人極為拉攏，不僅拔擢白崇禧為代總參謀長，且對第七軍在軍械、經費上均給予接濟，張靜江亦從中斡旋，此事方告平息。

鑒於孫傳芳、袁祖銘均行動遲緩，6月18日，吳佩孚一面命湘鄂邊防軍司令李濟臣率宋大霈、王都慶、董政國、夏鬥寅等四個師南下增援，一面命葉開鑫等務必在醴陵、湘潭、湘鄉一線堅守待援；

6月底，國民革命軍第四軍副軍長陳可鈺率領陳銘樞第10師、張發奎12師抵達湘南前線；國民革命軍第七軍李明瑞第1旅、胡宗鐸第7旅亦同時抵達；

6月底，就北京政府組織問題，吳佩孚與張作霖終於在北京會晤；雙方最終決定由杜錫珪代理國務總理；

湖南方面的告急電此時一日數至，曹錕勸吳佩孚放棄南口軍事，迅速回師武漢；吳佩孚咬緊牙關：南口一日不下，則一日不南返。

7月2日，在徹底解決李景林所部，並確認孫傳芳已經放棄進攻山東計畫後，奉軍、直魯聯軍在張學良、張宗昌、褚玉璞率領下亦對南口展開總攻；此時，國民軍由於近一半的兵力陷在山西，南口的戰事對國民軍日益危殆。