國民革命軍第21軍前身是川軍第2軍。

國民革命軍第二一軍前身是川軍第2軍。1926年12月7日，川軍第2軍響應國民革命軍北伐，被國民政府改編為國民革命軍第二一軍，劉湘任軍長。下轄8個師。第1師，唐式遵任師長；第2師，李雅材任師長；第3師，王陵基任師長；第4師，王瓚緒任師長；第5師，向成傑任師長；第6師，潘文華任師長；第8師，朱宗愨任師長。另外，軍直屬1個旅和兩個游擊司令部。

1927年初，第二三軍與第二一軍劉湘部聯合發起倒劉（劉文輝）之戰時進行整編，將所屬部隊統一改編為第1、第2、第3、第4師。同年6月上旬，劉文輝所屬第二四軍兵分三路向第二三軍防區發起攻擊作戰；一路由雙流向新津進攻；一路由重慶、大邑向邛崍進攻；一路由眉山、丹棱向名山、雅安進攻。當第二四軍發動進攻後，第二三軍軍長劉成勳指揮部隊陸續退出彭山、雙流、丹棱、大邑，向新津、邛崍集中，一部在石橋場後方擦耳岩一帶向蒲江退卻，被第二四軍擊潰。與此同時，在劉文輝的策反下，第二三軍第3師副師長楊芳毓、第2師副師長羊仁安、邊防部隊司令孫涵也公開通電，宣布與第二三軍脫離關係，投靠劉文輝。在此情況下，第二三軍已經名存實亡。6月29日，劉成勳被迫通電下野。至此，劉文輝將第二三軍及其防區全部兼併。

1928年8月，根據國民政府編遣會議的要求，第二一軍原有7個師、1個旅、兩個游擊司令部縮編為第1、第2、第3師。其中：第1師，唐式遵任師長，藍文彬任副師長；第2師，王瓚緒任師長，潘文華任副師長；第3師，劉湘兼任師長，王陵基任副師長。不久，劉湘免兼第3師師長，王陵基繼任第3師師長。1929年3月， 蔣桂戰爭爆發後，第二一軍被編入第七路軍，劉湘任總指揮，參加討伐武漢桂系軍隊的作戰。

1930年2月，劉湘被南京政府任命為四川善後督辦，奉令對四川各軍全權編譴。10月，劉湘、劉文輝爭奪對四川的統治的混戰全面展開，經過兩個多月的混戰，12月劉湘打敗劉文輝，奪得川北、上川東、下川南等地區的30多個縣，第二一軍先後收編第二四軍劉文輝部的3個旅和第二十軍陳蘭亭20-3、第二一軍廖澤(1930年任第21軍模範師第3旅旅長)兩個師。1931年初，第二一軍以支援第二十軍為名，進占了廣安、渠縣。3月，第二一軍第3師進占合川，驅走了第二八軍鄧錫侯部的陳書農師。此時，第二一軍實力進一步擴大，下轄6個師和川東3個邊防路軍。其中：第1師，唐式遵任師長；第2師，王瓚緒任師長；第3師，王陵基任師長；第4師，范紹曾任師長；教導師，潘文華任師長；模範師，劉湘兼任師長；川東邊防第1路，陳蘭亭任司令；川東邊防第2路，穆瀛洲任司令；川東邊防第3路，魏楷任司令。此後，第二一軍又參加了與劉文輝、田頌堯等軍閥在四川的混戰。在上述這些軍閥混戰中，第二一軍實力最強時，所屬部隊發展到9個師，5個獨立旅、4路邊防司令部、3路警備司令部、1個城防警備司令部、1個獨立支隊。

1933年10月至1935年4月，第二一軍先後參加了對紅四方面軍“6路圍剿”和對中央紅軍長征的圍追堵截作戰。

23-3潘文華時期

1935年5月，國民政府國民黨軍事委員會對川軍進行整編時，將劉湘所屬的第二一軍擴編為第二一軍、第二三軍、第四十四軍三個軍。其中，將原第二一軍第5師、教導師和邊防第2路等部合編組成第二三軍，潘文華任軍長，楊熾任參謀長。原教導師改編為第144師，楊國楨任師長，第144師所屬第1、第2、第3旅，分別由章安平、石照益、蔣尚樸任旅長；原第5師改編為第148師，陳萬仞任師長，第148師所屬第13、第14旅，分別由達鳳崗、潘左任旅長；邊防第2路，穆肅中任司令。此次整編後，潘文華任四川南岸“剿匪”軍總指揮，在同年10月至1936年上半年，根據蔣介石的命令，指揮第二三軍參加了堵截紅軍第1方面軍四渡赤水的作戰和阻止紅四方面軍南下川康邊的作戰。在上述作戰中，第二三軍被紅軍殲滅3個旅，被俘近2萬人。

1937年7月，抗日戰爭全面爆發後，第二三軍駐守成都地區，處於休整和訓練期間。在此期間，第二三軍新增編第167師，楊國楨兼任師長，該師所屬獨立第15、第16旅，分別由穆肅中、黃崗任旅長。此時，第二三軍下轄第144師、第148師、第167師。同年9月，第二三軍第144師、第148師出川參加抗日戰爭，第167師留駐四川梁山。11月下旬，第二三軍在到達廣德、泗安時與日軍先頭部隊遭遇。在此次遭遇戰中，軍長潘文華率部奮勇阻擊，擊退日軍多次進攻，繳獲汽車20多輛，機槍10多挺，迫擊砲10餘門，獲得初戰勝利。但在其後日軍集結重兵的反擊作戰中，第二三軍官兵傷亡很大，部隊受到嚴重損失。1938年6月，潘文華任第28集團軍總司令兼第25軍團長後，第148師師長陳萬仞繼任第二三軍軍長。1939年初，國民黨軍進行整編時，第二三軍番號和所屬部隊被裁減。原第二三軍原轄?第147師?，第一四八師隸第二一軍。

1939年初，國民黨軍隊進行局部編制調整時，第二一軍隸屬於第二十三集團軍，軍長唐式遵升任第3戰區副司令長官兼第23集團軍總司令，陳萬仞繼任第二一軍軍長，劉熙鑑任副軍長。同時，將原第二三軍原轄?第147師?，第148師隸第二一軍。此次整編後，第二一軍先後參加了當年的 冬季攻勢作戰和第二次長沙會戰。1942年，國民黨軍隊進行部分整編，第五十軍第一四五師與第二一軍第一四八師對調了隸屬關係。