組建: 1939年1月

蔣鼎文1939年1月 – 1939年8月 無

1939年1月14日奉令組建，首任集團軍總司令為第十戰區司令長官蔣鼎文兼任，副總司令為胡宗南。下轄李文的第九十軍、范漢傑的第二十七軍等部，駐防陝西，屬第十戰區指揮管轄。

胡宗南1939年8月 – 1943年2月 無

1940年初，第三十四集團軍調歸第一戰區指揮管轄，胡宗南繼任該集團軍總司令，宋希濂、陶峙岳任集團軍副總司令，下轄丁德隆的第一軍、董釗的第十六軍，李鐵軍的國民革命軍第76軍、趙錫光的第三十六軍和孔令恂的第八十軍，駐防豫陝交界地區。其中第一軍為該集團軍的基本部隊和胡宗南的起家部隊，並且源於黃埔軍校的“黨軍”，故被視為嫡系中的“嫡系”。日軍也將其視為第八戰區的“核心部隊”。國民革命軍第一軍曾在1937年參加淞滬會戰，取得相當戰績，後在河南武勝關一線對日作戰不利，隨即退回陝西。1941年初，該集團軍第八十軍奉令渡過黃河，增援中條山區中國抗日部隊。1941年5月初，日軍發動中條山戰役，第八十軍新編第二十七師遭到慘重失敗，師長王竣、副師長梁希賢、參謀長陳文杞均陣亡殉國。1942年後，第三十四集團軍又調歸第八戰區指揮管轄。

李延年1943年2月 – 1945年1月 豫湘桂會戰

1944年初，李延年任第三十四集團軍總司令，下轄張卓的第一軍、李正先的第十六軍和李文的第九十軍。1944年春中原會戰爆發後，該集團軍第一軍、第十六軍及其他部隊曾自陝西開進豫西抵抗日軍。第八師副師長王劍岳在戰鬥中陣亡殉國。後該集團軍又調歸第一戰區指揮管轄，胡宗南代理第一戰區司令長官，李文任第三十四集團軍總司令，李明灝、週體仁為副總司令，下轄羅列的第一軍、李正先的第十六軍和嚴明的第九十軍。

李文1945年1月 – 1948年11月 無

1948年11月改稱第四兵團。