1934年10月,第二軍隸屬駐閩綏靖公署,並將駐閩綏靖公署第八十師撥歸第二軍建制。爆發的蔣唐戰爭,鎮守武漢。1937年後,投入抗日戰場。9月,第二軍由福建開赴上海,隸屬國民革命軍第四集團軍,參加淞滬戰役。