粟裕率部南下蘇豫皖邊區後，一般僅攻打國軍防務空虛的地區，進行騷擾戰，因而未能對國軍形成較大壓力。

而國民政府則於1947年10月底，宣佈由國防部長白崇禧在九江成立指揮所（稍後遷往武漢），專門圍剿挺進大別山的劉鄧晉冀魯豫野戰軍；至12月初，劉鄧在大別山處境日益困艱，有覆沒之危。毛澤東遂嚴令粟裕及原劉鄧所部的陳賡兵團，必須加強在中原地區之攻勢，以迫使白崇禧自大別山分散兵力。

白崇禧為國民黨新桂系三巨頭之一，桂系王牌第7軍、48軍等，抗戰八年，一直以大別山為根據地，安徽省政府、集團軍司令部等皆在大別山，許多官兵都在當地娶妻生子，因而根基穩固。此次毛澤東令劉鄧挺進大別山，渾忘了必然要與新桂系武裝決雌雄，正是自尋死路也。日後，劉鄧逃離大別山時，48軍176師526團團長李祖霖曾狂言：“我一個團可以包打劉鄧一個縱隊！”

接到毛澤東的嚴電後，粟裕乃親率葉飛一縱、何以祥三縱、陶勇四縱，破襲平漢路鄭州至許昌段；令王必成六縱、王建安八縱在豫東阻擊邱清泉第5軍；令宋時輪十縱、王秉璋十一縱破襲隴海路開封至商丘段。三路人馬，於12月13日同時打響。

與粟裕相呼應，豫西的陳賡兵團亦同時對平漢路許昌至確山段展開猛烈攻擊。

戰事發起後，兩大共軍，兵分五路，連克許昌、漯河、蘭封、駐馬店、民權等縣市，各縣市的銀行、物資倉庫皆被共軍洗劫一空，平漢線完全斷絕。蔣介石對此憂心忡忡，連電白崇禧，令其速速派軍迎擊，然白崇禧充耳不聞，他告知蔣：絕不會從大別山分兵，務求聚殲劉鄧於大別山。

蔣介石於是諭令駐洛陽第五兵團司令官李鐵軍，令其率該兵團李楚瀛第10軍、楊幹才第20軍東進，打通平漢線南段。

第五兵團隸屬西安綏署，為胡宗南的部隊。李鐵軍接到命令后，立即率隊出發。然第10、第20兩軍在行進過程中，因步調不一，拉開了一百多公里的距離。

陳賡見猛烈破襲平漢路、隴海路，並未完成毛澤東所下達的“務必使白崇禧從大別山抽調兵力，以助劉鄧大軍脫困”之嚴命，乃請粟裕助拳，兩軍聯手圍殲北上途中之第10軍，以迫使白崇禧分兵。粟裕心中暗道，“這數月以來，李鐵軍第五兵團不斷追殺於你，此刻爾嘴上言稱為劉鄧解困，實際上是為爾自己剪除一大死敵也。”，粟戰神喜曰：“甚好甚好，第10軍被圍，還怕那小諸葛不來搭救嗎？哈哈”。

李鐵軍率部一路北上，21日到達駐馬店時，發現本應齊頭並進的楊幹才20軍動作緩慢，此刻還遠在一百公里以外的信陽，此時，第10軍軍長李楚瀛勸李鐵軍，等待20軍跟上來再一同前進；然蔣介石、顧祝同催迫甚急，而國軍情報工作極為低下，李鐵軍竟然不知陳賡兵團已與粟裕兵團在許昌會師。

12月22日，李鐵軍部繼續北上， 24日晨，第10軍到達西平以南，發現竟然遭遇共軍兩大野戰軍主力後，李乃命譚嘉范20師駐守于金剛寺，二李則率領兵團直屬部隊及雷自修第3師駐守祝王寨（該軍何竹本第49師留守洛陽，未參加此戰），同時電告南京蔣介石、武漢白崇禧，請求速援。

共軍這邊推舉粟裕為戰役總指揮，由粟裕率領華野一、三、四縱圍攻金剛寺，陳賡率領晉冀魯豫第一、四、九縱圍攻祝王寨。

話說這八路軍其實心裡對新四軍是不大瞧得上的，一向很喜歡對新四軍耍老資格，擺大哥譜；新四軍對此心知肚明，心中暗罵不已。此番，兩軍聯攻第10軍，便很有較勁的味道了。幸好，國軍各一師分處於兩地，粟裕、陳賡各率所部攻擊，倒也相安無事。