中共軍隊是執行政治任務的武裝集團，中共對軍隊擁有絕對的領導權，這一現象被中共黨史專家稱為“黨和軍隊的優良傳統”，即所謂的“黨指揮槍”。
      共軍的這一套“黨指揮槍”制度，始於1927年。
      1927年，“四一二政變”發生後，中共開始認識到進行武裝鬥爭和獨立掌握軍隊的極端重要性。“八一”南昌暴動是中共直接領導的武裝鬥爭，也是中共創建軍隊的開始。之後，中共召開了“八七”會議。在這次會議上，毛澤東在總結大革命失敗的教訓時指出，中共以後“要非常注意軍事，須知政權是由槍桿子中取得的”。
      會後，中共為了建立自己的武裝力量，決定在全國各地舉行武裝暴動，進行創建軍隊的實踐。中共在創建軍隊的同時，也開始在軍隊中創建了共產黨的組織。
      在南昌暴動時，中共為了直接掌握武裝力量，成立了以周恩來為書記的中共前敵委員會，作為暴動部隊的最高領導機關。在中共前敵委員會的領導下，各軍、師都成立了中共委員會，團級建立了中共黨總支或中共黨支部。
      南昌暴動雖然失敗了，但在暴動部隊中建立的各級中共組織，為後來共軍“黨指揮槍”提供了初步經驗。
      1927年9月，毛澤東在湘贛邊界發動了秋收暴動，當時暴動的部隊曾經發展到8000多人。但由於暴動部隊中有許多散兵遊民、舊軍官和地痞土匪分子，舊軍隊的影響嚴重存在，經不起戰鬥和艱苦生活的考驗，當毛澤東率領秋收暴動的失敗部隊到達江西永新縣的三灣村時，已不足千人。
      面對這種狀況，毛澤東決定加強中共黨組織對部隊的領導，他主持進行了共軍建軍史上著名的“三灣改編”。“三灣改編”的一個重要內容和目的，就是為了從組織上控制軍隊，毛澤東的一個重大發明，是中共的“黨支部建在連上”。
      “三灣改編”時，在部隊的團、營建立了黨委，連隊建立了黨支部，排、班建立了黨小組，凡屬部隊的一切重大問題，均須經黨組織集體討論決定。
      翌年4月，朱德、陳毅率領南昌暴動保留下來的部隊和湘南暴動的農民武裝到達井岡山，與毛澤東領導的工農革命軍會師，成立中國工農紅軍第四軍，並選出中共黨的委員會，毛澤東任書記。這標誌“黨指揮槍”的形式初步確立。
      中共領導武裝暴動的目的，為的是建立能夠獨立領導的軍隊。但是，所有暴動的部隊幾乎都以農民為主要成份，各種市俗思想佔據統治地位。如何從思想上、政治上、組織上掌握和鞏固自己的軍隊，緊迫地擺在紅四軍首腦面前。
      紅四軍組建初期共有8000多人，中共黨員佔1600多名，但在黨員中，農民和小資產階級出身的佔81％以上，非黨官兵中農民的比例更大。同時，一些幹部在中共領導軍隊的問題上、在中共的組織活動和作用等問題上，都存在不同的認識。
      後來，毛澤東受處分，離開了紅四軍到福建養病，紅四軍打了幾仗也不順利。
      為解決紅四軍存在的問題，紅四軍高層讓時任軍黨委書記的陳毅去福建請毛澤東回到部隊，並於1928年12月，召開了中共紅四軍第九次代表大會，討論通過了由毛澤東起草的《中國共產黨紅四軍第九次代表大會決議案》，即《古田會議決議》。
      《古田會議決議》闡明的中共對軍隊絕對領導的原則、中共的組織在軍隊中的領導作用，規定的健全中共的各級組織、厲行集中指導下的民主生活、實行集體領導的原則等思想和做法，很快就在紅四軍中得到貫徹，而且在其他各地暴動的部隊中也逐步得到了推廣。
      從此，“黨指揮槍”的理論便逐漸確定下來。