1927年9月，中共湖南省委前敵委員會書記毛澤東領導的秋收起義失敗，起義隊伍撤退到瀏陽的文家市。在文家市召開的前敵會議上，通過了毛澤東提出的放棄攻打長沙，向南轉移到敵人統治力量薄弱的農村、山區去立腳的主張。
會後毛澤東率領隊伍轉戰湘贛邊界，經過半年的努力，創建了中國第一塊農村革命根據地──井岡山根據地，部隊名叫工農革命軍。
      1928年4月中旬，朱德、陳毅率領南昌起義保留下來的一部分隊伍和湘南起義的農民武裝，轉戰到達井岡山，與毛澤東率領的工農革命軍會師。5月4日，中國工農紅軍第四軍宣告成立。然而，這支共軍歷史上最早的紅軍為何稱“紅四軍”，而不稱“紅一軍”呢？
      據美國作家愛德格．斯諾的《西行漫記》裏對朱德的採訪，朱德是這樣說的：“所以用這名字，為要保持國民黨第四軍‘鐵軍’的大名，它在大革命中是我們革命的堡壘。”
      國民黨第四軍是一支怎樣的軍隊呢？
      國民黨第四軍的準確稱呼是國民革命軍第四軍，其前身為廣東軍隊建國粵軍第一師，是國民革命軍的始創部隊之一。1925年7月，廣州國民政府成立軍事委員會，將廣東各派軍隊統一編為國民革命軍，計有8個軍。其中由李濟深任師長的粵軍第一師擴編組成國民革命軍第四軍，李濟深任軍長，中共黨員廖乾五任黨代表。李濟深受孫中山先生影響，主張國共合作，因此四軍各部均有共產黨員擔任政治工作。
      1926年5月，國民革命軍第四軍由葉挺獨立團作為先鋒向湖南挺進，揭開了北伐戰爭的序幕。由於葉挺獨立團及所在的第四軍戰功卓著，殲滅了吳佩孚的主力，使革命勢力發展到兩湖地區，因而第四軍贏得了“鐵軍”的光榮稱號。
1927年1月，葉挺獨立團所在的十二師擴編為軍，稱國民革命軍第四軍，獨立團改編為師。“四一二”政變後，第四軍“東征討蔣”進軍到九江、南昌一帶。第四軍中本來共產黨員甚多，北伐途中國民黨實行分共，部分由中國共產黨掌握的部隊在南昌發動南昌起義，成為共產黨的直屬部隊。之後第四軍發展成十九路軍，成為一二八事變中的著名抗日部隊；而其中一部分於北伐時留守廣東的部隊，則一直維持至抗日戰爭正式爆發以至抗戰後的內戰時期。
      朱、毛井岡山會師後，為繼承和發揚國民革命軍第四軍“鐵軍”的光榮傳統，故將中共領導下成立的第一支新型軍隊命名為“中國工農紅軍第四軍”。
      其實，在紅軍歷史上，除毛澤東、朱德創建的紅四軍外，還有兩個“紅四軍”：一是1928年6月賀龍在湘鄂西成立的“紅四軍”，此乃紅二方面軍的前身；另一個是1931年1月由許繼慎為軍長的紅一軍與蔡申熙領導的紅十五軍合編成的“紅四軍”，軍長為曠繼勳(後由徐向前接任)，此為紅四方面軍的基礎。後來三個“紅四軍”逐步發展成了紅軍的三大方面軍。
      在三個紅四軍中，以朱德、毛澤東領導的紅四軍存在的時間最長，從1928年5月成立到1932年底取消編制，存在了4年半；其次是賀龍領導的湘鄂西根據地工農紅軍第四軍，1928年7月成立，1930年7月取消編制，正好存在了2年；最短的是鄂豫皖紅四軍，1931年1月成立，同年11月就取消編制了。
      抗戰開始後，留守在南方八省打游擊的紅軍被國民政府改編。由於該部有一些原國軍第四軍起事產生的部分，且新部隊的軍長為當年第四軍被稱為“鐵軍”時期的第十二師獨立團團長的葉挺。葉挺提議將改編後的番號叫“新四軍”，以繼承和發揚過去“鐵軍”第四軍的光榮傳統。