從某種意義上說，國軍與共軍有同一鼻祖：國民革命軍第四軍。

國民革命軍第四軍的前身是陳炯明粵軍第1師。1921年底，陳炯明與孫中山就北伐問題產生裂痕；陳炯明部除第1師師長鄧鏗外，其餘均反對孫文北伐。

1922年3月，鄧鏗在廣州遇刺身亡，陳炯明提升第1師第1旅旅長梁鴻楷接任師長職；

6月，陳部炮轟總統府，擁孫派與反孫派軍人終於大打出手；梁鴻楷初始態度猶疑，後期終於下定決心，鼎力擁護孫文。

1925年孫文病逝後，國民黨在蘇俄支持下，在廣州成立國民政府；8月18日，正式組建國民革命軍，許崇智任軍事部長兼廣東省主席：

第一軍軍長：蔣介石；

第二軍軍長：譚延闓；

第三軍軍長：朱培德；

第四軍軍長：梁鴻楷；

第五軍軍長：李福林；

第六軍軍長：程潛。

8月20日，財政部長兼黃埔軍校黨代表廖仲愷被刺身亡；胡漢民、許崇智、梁鴻楷等被指為幕後主使，被迫下野；第四軍各師除李濟深第1師外，悉數被蔣介石部包圍繳械。

國民政府隨後宣佈以李濟深第1師擴編為第四軍，李濟深接替梁鴻楷任軍長；

時第四軍轄三師：陳銘樞第10師、陳濟棠11師、陳可鈺12師。

時任第四軍軍部參謀的葉挺，因愛慕廣州執信女中校花李秀文，但李父告知葉挺要娶他女兒必須先當上團長，葉挺遂央求好友時任12師副師長的張發奎，終於得償所願，獲任12師34團團長。

1926年3月，發生中山艦事變，國共關係出現裂痕；李濟深遂將34團改編為第四軍獨立團，要求第四軍所有共產黨人均集中于該獨立團。

5月10日，廣西軍人第七軍軍長李宗仁至廣州，遊說各方立刻出師北伐；然無人附和李宗仁之號召，惟李濟深一人毅然響應。

5月25日，國民政府決議北伐。

李濟深以陳可鈺為第四軍副軍長，率領陳銘樞第10師、張發奎12師出師北伐；另成立徐景唐13師，與陳濟棠11師一起留守廣東大本營；李濟深受任國民革命軍總參謀長兼第四軍軍長兼廣東省主席兼黃埔軍校副校長。

北伐出師序列：

第四軍副軍長：陳可鈺

第10師師長陳銘樞，副師長蔣光鼐，轄三團：蔡廷鍇28團、范漢杰29團、戴戟30團；其中范漢杰為黃埔軍校第一個擔任團長的學生；

第12師師長張發奎，副師長朱暉日，轄四團：許志銳34團、繆培南35團、黃琪翔36團、葉挺獨立團。

至1926年底，北伐軍勢如破竹，攻佔湖南、湖北、江西、福建四省，北伐第四軍表現尤其出色，獲得“鐵軍”之盛譽；川黔兩省軍閥及西北馮玉祥亦宣佈投身國民革命；但此時國共矛盾激化，國民黨內左派、右派之爭亦日趨尖銳；思想極度左傾的張發奎則獲得了蘇俄、中共、國民黨左派的鼎力扶持。

在蘇俄顧問鮑羅廷指使下，張發奎遂向陳可鈺提出將其12師擴編為第四軍，李濟深所率領的廣東留守部隊改編為新四軍；張發奎的後盾，時任國民革命軍總政治部主任的鄧演達，陪同陳可鈺回廣州轉達張發奎的意見後，陳濟棠、徐景唐等大怒，紛紛要求撻伐叛徒張發奎；惟李濟深不願發生第四軍之內戰，亦不願此時與共產黨決裂，最終同意了張發奎的要求。