1949年1月31日，北平“和平解放”；2月，中共中央決定建都北平。
這時北平的社會情況異常複雜。城內尚潛伏許多國民黨的軍警憲兵、特工及其他惡性遊民，北平城內打暗槍、放信號彈、搶劫、盜竊等事天天發生。這種治安狀況給中共的保衛工作增加了複雜性和艱巨性。
要承擔起如此重大的保衛任務，僅靠原來的中央警備團和華北軍區步校改編的北平市糾察總隊已經不能勝任。
為此，中央軍委決定，把第四野戰軍的第四十七軍第一六○師改編為第二○七師，隸屬於華北軍區平津衛戍司令部，執勤業務由中央社會部領導（公安部成立後歸公安部領導），與中央警備團一起擔負中共首長、機關和北平的警衛任務。
第四野戰軍政委羅榮桓、參謀長劉亞樓找來第四十七軍第一六○師政委鄒衍和第四十五軍第一三三師師長吳烈談話，任命吳烈為第二○七師師長，鄒衍任政委。
吳烈從中共紅軍時期起，就在保衛戰線工作過，擔任過中共紅軍總前委和國家保衛局保衛大隊大隊長；抗日戰爭時期，在延安任中央警備團團長兼政委，並兼任延安北區衛戍司令。鄒衍在延安時期，曾任陝甘寧邊區政府保衛團政委，並兼任延安南區衛戍司令。
第一六○師改編為第二○七師後，3月初，由河北固安縣開進北平的南苑地區。3月13日，全部進駐新任務區。師部駐頤和園背後的大有莊，所屬第六一九團駐海澱，第六二○團駐磨石口（小府），第六二一團駐清河。
為了進一步加強北平的警衛力量，新上任的公安部部長羅瑞卿開始醞釀組建一支擔負中共元首和首都保衛任務的公安部隊，計劃把第二○七師改為第一師，再以中央警備團為基礎擴編成第二師，把兩個師合編為公安中央縱隊。
早在平津戰役期間，中央警備團就為接受北平防務手準備。
該團組織了首批入城的7個連隊共800余人，於1948年12月24日進入北平。為適應入城任務的需要，中央警備團入城部隊暫改番號為“北平市公安總隊”，屬中共北平市委領導。
1949年6月下旬，中央警備團開始進行組織調整。6月23日，接收了由華北軍區補訓團調來的新戰士644名。
這批新兵是貧農子弟，政治成分好，經短期訓練後補入各個連隊。7月底，由山東軍區調來3個營，人員來自山東軍區所轄的膠東、魯中南及渤海各軍區，都是從部隊挑選出來的優秀幹部、戰士，政治素質高。
8月3日，又從東北軍區調來獨立第八團。該團大部分成員是從遼南、遼東各軍區所轄獨立師選調的，多數人員經過戰爭考驗。
8月6日，中央直屬機關供給部所轄的工兵營也調歸擴編部隊。
至此，中央警備團擴編為師級的部隊先後到齊，各項準備工作基本就緒。1949年9月2日，公安部部長羅瑞卿轉達了中共軍委第138號電令：
中國人民公安中央縱隊及所轄第一師、第二師即日成立。
委任吳烈為中國人民公安中央縱隊司令員兼第一師師長，鄒衍為中國人民公安中央縱隊政治委員兼第一師政治委員，劉輝山為中國人民公安中央縱隊第二師師長，張廷禎為中國人民公安中央縱隊第二師政治委員。
公安中央縱隊隸屬於公安部指揮，主要擔負中共和國家機關、中共元首們的安全警衛和維護北平治安等任務。
不久，公安中央縱隊黨委成立，吳烈為書記，鄒衍為副書記。