孟良崮戰後，毛澤東欣喜若狂，認為國軍的重點進攻已為其粉碎，致電晉冀魯豫野戰軍統帥劉伯承、鄧小平，命其集結休整，然後儘快南渡黃河，對國統區發動全面反攻。

此時，中共全國的野戰軍集團分為：

1、東北：東北野戰軍，林彪、羅榮桓；

2、華北：晉察冀野戰軍，聶榮臻、蕭克；晉冀魯豫野戰軍；劉伯承、徐向前、鄧小平；

3、西北：陝甘寧晉綏野戰軍，彭德懷、賀龍；

4、華東：華東野戰軍，陳毅、粟裕。

在1947年夏季，實力最強的是陳粟華東野戰軍，主力部隊加地方武裝有60余萬之眾；其次是林彪東北野戰軍，有50余萬人；華北聶榮臻所部和劉伯承所部兵力相仿，各有近30萬人，但劉伯承部無論是武器裝備，還是作戰能力，都遠勝聶榮臻部；兵力最單薄的是西北彭賀，約10萬人。

劉伯承接到毛澤東命令後，乃命徐向前率領一部分兵力留在華北支援聶榮臻，主力開始在黃河北岸集結整編，準備南渡黃河。

孟良崮戰後，粟裕率領全軍向東後撤了200里，以擺脫國軍的追擊，但國軍卻沒有任何動靜，這使得粟裕認為孟良崮一戰，已使國軍士氣渙散，對山東的重點進攻已是強弩之末。

5月底，毛澤東的電報發來，除對粟裕大加表彰外，更表示孟良崮之戰，全殲蔣軍旗幟張靈甫74軍，這標誌著共軍在全國戰場的全面大反攻時刻已經到來。

接到中共中央電報後，陳毅肉麻地稱粟裕領導的孟良崮之戰為“于百萬軍中取上將首級”，又致電毛澤東，稱粟裕是“堪與林彪、劉伯承、彭德懷相比肩的後起之秀，系偉大的軍事家，前途未可限量”。此時的粟裕，面對領導的溢美，戰友之讚頌，也感覺自己頗似個戰神，仿佛孫武、諸葛再世。

6月中，毛澤東複來電，告知陳粟：華北劉鄧大軍即將南渡黃河，施行戰略大反攻，要求陳粟儘快制定華東的反攻計畫；並建議陳粟兵分三路，一路出擊魯西，一路出擊魯南，一路留在魯中。

6月30日，粟裕將其部分為三個兵團：

1、何以祥三縱、王建安八縱、宋時輪十縱，共約8萬人，由華野參謀長陳士榘、政治部主任唐亮率領，出擊魯西，進迫兗州；

2、葉飛一縱、陶勇四縱，約6萬人，出擊魯南，進迫徐州；

3、韋國清二縱、王必成六縱、成鈞七縱、許世友九縱及陳銳霆特種兵縱隊，共14萬餘人，由陳粟親自率領，留守魯中根據地。

就在同一天，劉鄧大軍主力十五萬餘人，自魯西南豫魯交界處強渡黃河。就在各路共軍紛紛出擊之時，顧祝同大軍休整了一個多月後，也與此同時恢復了對中共沂蒙山根據地的大舉進攻。於是，山東戰場出現了極有趣之一幕，共軍主力紛紛由東向西，進攻國軍後方；國軍則形成密集縱隊，由西向東進攻共軍根據地。

顧祝同發現共軍主力大舉進犯魯西、魯南地區，對此混亂形勢，應變處置尚屬沉著冷靜，7月12日，顧祝同在魯中留下了5個軍，其餘邱清泉第5軍、李本一第7軍、張光瑋48軍、曹福林55軍、吳紹周85軍、段霖茂98軍、周志道100軍等七個軍，全部掉頭回師圍剿共軍陳唐、葉陶兩兵團。

留守魯中的5個軍，分別為：位於最北端的李彌第8軍駐濰縣（今濰坊），位於最南端的王淩雲第2軍駐沂水，位於中段的胡璉18軍駐南麻（今沂源），黃百韜25軍、黃國梁64軍則居南麻與沂水之間。顧祝同衷告留守各軍互相扶助、加強工事，一方有難，四方來援，簡而言之：“同生共死”。