粟裕於7月21日晚間，決定撤南麻之圍，北上守衛臨朐，圍殲李彌第8軍。然而，當華野五個縱隊疾奔120余里，於23日中午到達臨朐西南部時，第8軍動作更加迅捷，已搶先一步佔領臨朐。

對於李彌第8軍，自1945年底進駐山東以來，粟裕從未和該軍真正交過手。而此時的粟裕發生了比此前認為魯中國軍將全線撤退更嚴重的誤判：

其一，粟裕認為，在山東戰場，只有邱清泉第5軍、李本一第7軍、胡璉18軍、張光瑋48軍，以及此前的74軍，算是國軍主力，第8軍僅是二流部隊；

其二，粟裕判斷第8軍剛剛佔領臨朐，立足未穩，正可趁機發起猛攻，一舉殲滅該軍，收復臨朐。

正是這一連串錯誤判斷，導致粟裕不顧所部官兵已歷經一周血戰，又連日強急行軍之現實，下令各縱隊於24日下午前，完成對臨朐的包圍，隨之發起總攻。

臨朐之戰，仍由韋國清二縱、王必成六縱、許世友九縱及陳銳霆特縱負責攻城，成鈞七縱配屬二縱朱紹清第4師負責阻擊國軍援軍。

此時進駐臨朐的第8軍建制並不完整，著名的榮譽第1師（師長汪波）此時駐守濟南，周開成獨立師和166師的一個團皆留守濰縣。而隨李彌進占臨朐的僅有王伯勛103師、黃淑166師，因此，粟裕所面對的僅是半支第8軍。然而，雖然建制不完整，第8軍又豈容人輕侮？！張靈甫74軍號稱「輝煌部隊」，李彌第8軍則號稱「松山部隊」，任何一個愛國華人都忘不了遠征軍之役中的松山、龍陵之喋血奮戰！

戰事於24日下午發起後，共軍於25日夜攻入臨朐城內，第8軍逐屋逐巷頑強抵抗，白刃戰隨處可見。

南線的第2、25、64軍在解南麻之圍後，馬不停蹄，繼續北上解臨朐之圍，顧祝同並命胡璉稍作休整，做好北上參戰之準備。

激戰至7月30日，北上三軍一舉攻克共軍在三岔店之阻擊陣地，第64軍一馬當先，銳不可當，大破成鈞七縱于金葫蘆頂，共軍阻援部隊完全崩潰。

此時，粟裕眼見臨朐城內的戰鬥，共軍每前進一米，都要付出巨大代價，而第8軍以不到兩萬人與近十萬之眾的共軍，歷經六日夜血戰，依然鬥志頑強，寸土必爭；而阻擊陣地被國軍全線突破的消息傳來，臨朐共軍士氣已趨渙散，粟裕仿佛又看到了一年前張靈甫74軍在淮陰與其巷戰的場景，各路共軍紛紛奪路逃生的一幕再度上演。

8月1日，共軍四散潰逃，北上三軍與第8軍在臨朐勝利會師。

自7月17日至8月1日的南麻臨朐之戰，共軍傷亡3萬餘人，其中南麻之戰傷亡14000餘人，臨朐之戰傷亡20000餘人；國軍第8軍、18軍各傷亡約4000人，連同增援部隊，參戰各軍總傷亡1萬餘人。戰役結果，粟裕不但未能殲滅國軍任何一軍，反而再也無法在沂蒙山立足，真真是偷雞不成反失了米缸。

臨朐戰後，陳粟部逃往魯北渤海地區；而許世友認為粟裕瞎指揮，不會打仗，遂自行率領其九縱脫離粟裕，撤往他起家的老巢---膠東。