1948年4月29日，粟裕在陳毅陪同下，驅車千里，到達太行山下的保定阜平毛澤東駐地。毛澤東自領袖中共以來，從未出門迎接過任何人，此次得知粟裕已至，立即滿面笑容，迎出門外，令一旁劉少奇、朱德、周恩來、任弼時等人驚訝不已。

眾人坐定，即開始了著名的「阜平城南莊會議」，粟裕表示：

1、華野第一兵團十萬人南渡，很可能全軍覆沒；

2、第一兵團南渡，會使一部分敵軍南調，但敵第5軍、第7軍、18軍、48軍，預判其一支也不會南調，而這四個軍不南調，則在根本上不能改變目前中原戰場的態勢；

3、目前整個中原戰場，華野、晉冀魯豫野戰軍合計機動兵力超過30萬，而敵軍總共只有九個軍可以機動作戰，如果華野粟裕兵團、陳唐兵團，與晉冀魯豫劉鄧、陳謝共四個兵團聯合作戰，完全可以打幾場大的殲滅戰。

城南莊會議，自4月29日至5月9日，毛澤東基本接受了粟裕的意見，同意粟兵團暫不南下，但命粟裕立下軍令狀：半年之內必須消滅蔣軍10萬人，蔣軍四大主力中相對較弱的邱清泉第5軍，必須包含在內。

除此之外，毛澤東發佈了一系列意味深長的命令：

1、原晉冀魯豫野戰軍劉鄧、陳謝兩兵團，改編為中原野戰軍，劉伯承任司令員，鄧小平任政委；陳毅任第一副司令員，仍兼華野司令員、政委；

2、原中共華東局工委書記鄧子恢出任中原局副書記，主持日常工作，鄧小平為書記；

3、粟裕任華東野戰軍代司令員兼代政委，對華野作戰有最終決斷權。（注：毛澤東本意為解除陳毅在華野的所有職務，專任中野，正式命令已簽發，但粟裕堅持保留陳毅在華野的名義職務。）

從這些命令來看，此時的毛澤東對劉伯承已相當不信任，同時1946年底毛澤東發佈的“當陳毅、粟裕兩人對於作戰意見相左時，粟裕有最終決斷權”的命令依然有效，那麼陳毅、鄧子恢等人此時出任中野，實際上便充當了粟裕傳話筒的作用，中野、華野兩大野戰軍的戰役最終決斷權實際都在粟裕手上。

城南莊之行，粟戰神收穫頗豐，但心中也有一個隱憂---許世友。就在城南莊會議期間，許兵團一舉攻克魯中堡壘濰坊，山東泰半落入其囊中，許世友第二兵團所控制的野戰軍加地方武裝總兵力，已相當於華野其它三個兵團的總和，而許某人長期半公開反粟，到處諷刺挖苦粟戰神。而毛澤東卻似乎對許世友甚是支持，粟戰神心中惴惴“需儘快將其除去，免生後患。”

而毛澤東在會議期間，卻發現他的副手劉少奇對粟裕甚為熱情、親切，粟裕似對劉某人亦頗有親近之意，這令毛澤東心中暗生警惕“日後，不免要將爾等一干反賊一網打盡。”

在共党城南莊會議前後，國民政府發生了重大改組：

1、1948年4月29日，蔣介石、李宗仁分別當選中華民國總統、副總統；

2、蔣介石提名地質學家翁文灝出任行政院長；

3、國共內戰爆發之初，參謀總長陳誠曾對外表示“短則三個月，至慢半年，當可徹底解決共產黨問題”，眾目睽睽之下，在國大代表們山呼海嘯般“殺陳誠以謝國人”的呐喊聲中，蔣介石不得不丟卒保車，解除陳誠參謀總長職務；

注：1948年6月，陳誠在上海國防醫學院做了胃切 除手術，將胃割去了三分之二。10月，陳誠攜一家老小，移居臺北草山休養。19 48年12月29日，蔣介石既不與陳誠商量，也未通知當時的臺灣省主席魏道明，突然 任命陳誠為臺灣省主席 “克日接事”；29日同一天， 國民黨中常會任命蔣經國為臺灣省黨部主任委員。

4、取消陸軍總部徐州指揮所，成立徐州剿匪總司令部，由劉峙出任總司令； 6月14日，劉峙飛抵徐州就職。

此事在國民黨內部引起一場不小波瀾，有人說："徐州是南京的大門，應派一員虎將把守；不派一虎，也應派一狗看門。今派一隻豬，眼看大門守不住。"

5、鑒於行憲國大期間，白崇禧公開支持李宗仁，反對蔣介石、陳誠，蔣介石宣佈撤銷白崇禧國防部長職務，由何應欽接任國防部長；

6、取消國防部武漢指揮所及武漢行轅，成立華中剿匪總司令部，由白崇禧出任總司令；

7、原武漢行轅主任程潛改任湖南省主席兼長沙綏署主任；

8、原陸軍總司令顧祝同接替陳誠，出任參謀總長；

9、原衢州綏署主任余漢謀出任陸軍總司令，陸軍副總司令湯恩伯出任衢州綏署主任。

注：此時余漢謀的四個軍，林偉儔62軍駐守天津，林湛63軍駐守武漢，劉鎮湘64軍轉戰魯南蘇北，李振65軍駐守西安。

對於撤銷白崇禧國防部長職務，李宗仁並無反對，但李認為應該將華東、華中部隊交由一個指揮機構統一指揮；如果硬要強拆，也應讓白崇禧負責相對更重要的徐州剿總，劉峙絕不能勝任。奈蔣氏置若罔聞，只是將賦閑的杜聿明任命為徐州剿總前進指揮部主任。