1947年7月23日，毛澤東電告劉伯承，必須儘快脫離羊山集戰鬥，全軍迅速南下挺進大別山；

劉伯承沒有聽從毛澤東的指示，他命令陳錫聯、陳再道立下軍令狀，並調一縱、六縱各一部，及野司榴彈炮營，加入對羊山集的圍攻。

28日中午，劉鄧共軍終於攻克羊山集，宋瑞柯被俘，66軍團級以上軍官僅13師師長羅賢達一人逃脫；宋瑞柯以三個團的兵力，堅守羊山集長達15天，共軍傷亡上萬人；

在魯南，葉飛於20日接到粟裕撤返魯中的命令後，即撤圍滕縣向東撤退，但為時已晚，於24日在棗莊以東與西返的桂系鐘紀第7軍、張光瑋48軍迎頭相撞；（張淦縱隊）

葉飛遂令一縱方升普獨立師、四縱張震東第10師阻擊桂系軍隊，自率一縱、四縱主力轉而向西，企圖西渡運河與陳士榘合流；

張淦於26日甩脫方、張兩師，繼續緊追葉陶兵團；同日，粟裕命令陳士榘東進接應葉陶兵團；陳令王建安八縱、宋時輪十縱阻擊邱清泉第5軍、吳化文84軍，自率何以祥三縱接應葉陶兵團；

在臨朐，奉命北上增援的第2、25、64軍終於在7月30日擊破共軍最後一道阻擊陣地--三岔店；其中，64軍一馬當先，大破成鈞七縱于金葫蘆頂，成鈞重傷；

此時，在臨朐城內已到處是斷壁殘垣，共軍每前進1米，都要付出巨大代價；

7月31日，中共中央宣佈其武裝力量正式定名為「中國人民解放軍」；以朱德為總司令，彭德懷為副總司令，葉劍英為總參謀長；

8月1日拂曉，粟裕下令撤圍臨朐；

臨朐戰後，陳粟逃往魯北渤海；譚震林、許世友則認為粟裕不會打仗，瞎指揮，譚震林率韋國清二縱、成鈞七縱逃往魯東南，許世友九縱自行返回膠東。

臨朐戰役，陳粟共軍傷亡近兩萬人，李彌第8軍傷亡4千餘人；

8月1日，葉飛、陶勇捨命狂奔，終於在濟甯東北與陳士榘會師；葉陶兵團在桂系軍隊的緊追不捨下，傷亡達兩萬餘人，基本喪失戰鬥力，此後一直休整到年底；而方升普、張震東則竄往魯東南，投奔譚震林；

8月3日，陳士榘、葉飛兵團西渡運河，與劉伯承會師；

南麻、臨朐戰役的失敗，導致國軍佔領了整個沂蒙山地區；8月4日，粟裕以個人名義致電中共中央和華東局，引咎自責，請求處分：“戰役組織上當有不少缺點及錯誤，我應負全責。為此，請求給予應得之處分。”

8月6日，陳毅致電毛澤東，表示願意與粟裕共同擔責，並稱粟裕是一位傑出的軍事家。

鑒於第66、70兩軍的覆沒，8月18日，國民政府宣佈對魯西南戰役有關將領之處置：

1、第四兵團司令官王仲廉謊報軍情、貽誤戰機，判處入獄8年；

2、第32軍軍長唐永良違抗軍令，本應處以槍決；念其協助余錦源72軍防守濟甯有功，酌處以撤職處分；

3、第14軍軍長羅廣文晉升第四兵團司令官；

4、第32軍改隸王耀武第二綏靖區，由周慶祥任軍長；

5、第75軍副軍長李仲辛升任第66軍軍長，重建66軍；

十天后，劉鄧大軍渡過淮河，挺進大別山，王敬久因作戰不力被解除第二兵團司令官職務，第二兵團解散。

注1：王仲廉入獄一年後，被湯恩伯保釋出獄；

注2：1947年底，邱清泉第5軍擴編為整編第五軍，轄第5、第70軍；

注3：李仲辛抗戰期間長期在第66軍服役；

注4：重建後的66軍編制（轄三師九團）：

軍長：李仲辛

副軍長：羅賢達

第13師師長：張潔

第185師師長：袁樾人

第199師師長：蕭炳寅