國軍主力西去後，不知為何，粟裕竟認為已將敵軍打得疲於奔命，國軍之西去在粟裕看來乃是倉皇撤退，正是士氣低落的表現，其大舉來犯，不過是虛張聲勢耳。

尤其可怕的是，粟裕竟然認為留守魯中的國軍，乃是殿后的部隊，不久也要撤退，或者說逃跑。在此思路下，粟裕決心在國軍逃離魯中之前，再打幾場漂亮的大殲滅仗。

魯中的這五支國軍中，在粟裕眼中也就胡璉18軍有些戰鬥力和名氣，其他四個軍簡直不值一提。胡璉18軍在加入對山東的重點進攻之前，曾多次和劉鄧晉冀魯豫野戰軍交手，從未嘗敗績，毛澤東因此親筆寫通告給劉鄧、陳粟兩大野戰軍首長：“十八軍胡璉，狡如狐，勇如虎。宜趨避之，以保實力，侍機取勝。”；國共雙方對胡璉個人的評價是十二個字：“愛才如命，揮金如土，殺人如麻。”

而剛剛殲滅張靈甫74軍的粟裕，已經眼高於頂，一舉選中了胡璉18軍，作為下一殲滅之目標。在粟裕的認知中，1946年歲末的宿北之戰，全殲戴之奇99軍一役，胡璉18軍的表現，不過爾爾。

在陳粟下達的南麻之戰政治動員令中，有這樣一段話：“敵軍靠得最近者，只有二十五、六十四軍，這是兩簍爛葡萄，是最易於阻住的；在打七十四軍時，二十五軍只離十里路，結果三天三夜他也未能前進。這一仗，這兩簍爛葡萄距離南麻都在五十里以上，我們必將迎來山東戰局的決定性勝利！”

共軍上下，對贏得南麻之戰信心爆棚，對二十五、六十四兩軍之輕蔑，可謂溢於言表。此時的粟裕，已經渾忘了在一個多月前，孟良崮戰罷他的第一反應，為何是急退200里？百萬軍中再取上將首級，壯志豪情，令人讚歎，只是這一次，粟裕將為自己的輕敵付出沉重的代價。

7月17日，粟裕率領韋國清二縱、王必成六縱、許世友九縱及陳銳霆特種兵縱隊對南麻展開四面圍攻，令成鈞七縱在地方武裝協助下負責阻擊南麻以南之國軍援軍。

18軍自月初進駐南麻以來，不避辛勞，日夜構築工事，已基本形成完備之防禦體系。此時，面對共軍十餘萬眾之四面進攻，全軍在胡璉率領下兵來將擋水來土掩，從容應戰。

18日晨，蔣介石親自電示魯中其餘四軍軍長，內容很簡單：“18軍若步74軍後塵，各軍主官按革命軍人連坐法嚴懲不貸！”

在南線，北上馳援的王淩雲第2軍、黃百韜25軍、黃國梁64軍於18日傍晚，在牛心崮、于家崮一線遭遇共軍成鈞七縱及地方武裝阻擊後，即輪番向共軍陣地發起猛撲。擔當主攻的第64軍156師師長劉鎮湘號召全師：“156師即使打到只剩最後一人，也要拿下于家崮，戰死沙場，最是光榮！”

南麻之戰，惡鬥至21日傍晚，胡璉18軍彈藥逐漸耗盡，然共軍雖付出重大傷亡，卻舉步維艱，未能取得實質性突破，甚至根本無法靠近南麻縣城。此時成鈞連電告急，表示各路敵軍日夜猛攻，七縱傷亡巨大，已難以維持阻擊陣地。不久，劉鎮湘156師與共軍拼死相搏，終於率先突破于家崮防線，逼近南麻。

此時，在北線，由濰縣出發的李彌第8軍，擊退多個共軍地方武裝的阻擊，前鋒逼近臨朐。臨朐若被國軍佔領，則魯中與魯北共軍之聯繫將被切斷；南麻短期內礙難攻克，而劉鎮湘156師已出現在攻城部隊後方，粟裕綜合研判形勢，遂於當晚決定全軍北上守衛臨朐，同時圍殲來犯李彌第8軍。

7月22日上午9時，劉鎮湘師到達南麻，與18軍會師。