1949年春，國民政府以青年軍第二0三師為基礎重建第十二軍，舒榮任軍長，隸屬第9編練司令部，下轄第二0三師、第324、第325師和暫編第1師，4月，在渡江戰役中，第十二軍配置於浙東地區先擔任第2線防禦任務，後收縮到上海擔任黃浦江以動地區防禦任務。在上海(淞滬)戰役中，第十二軍第二0三師被人民解放軍全殲，第324、第325師各被殲大部，軍部率殘部乘船逃往台灣。