1950年3月，國軍總參謀長兼代理國防部長顧祝同乘飛機從大陸撤到台灣。國民黨上層要求追究顧祝同的戰敗責任，這使他不得不暫時下台避風。他的職務全部交卸。
      顧祝同被免職後，心情很不好。他成天鬱鬱寡歡，把自己關在家裏，說是要好好思過。蔣介石知道後，打電話來安慰他，要他到外邊去走走，不要太難為自己。
      從那以後，顧祝同就常到過去下屬或者朋友那裏坐坐，聊聊天。遇到天氣好，就到台北附近的風光名勝處看看。
      蔣介石心裏明白，來此孤島和他一起“共患難”的高級將領雖多，而真能像顧祝同這般死心塌地的人很少。由於顧祝同不拉幫結派，沒有形成“小圈子”﹐所以蔣介石仍舊器重他。時隔不久﹐為了對顧祝同進行安撫﹐蔣介石委任他為總統府戰略顧問委員會副主任委員。不久﹐他又出任“戰顧會資政”﹑“國策顧問”等職。儘管這都是些榮譽﹑清閒職位﹐畢竟面子上過得去。1952年10月﹐顧又成為第七屆國民黨中央評議委員。1954年﹐他晉陞為陸軍一級上將﹐軍銜達到終極。1957年10月﹐他連任第八屆中央評議委員（1963年、1969年，顧祝同連任第九屆、第十屆中央評議委員）。
      1959年6月，顧被任命為國防會議秘書長。國防會議為國民黨最高決策機構，主要由黨政機關首腦組成，由蔣介石本人親自主持會議，重大決策均出此機構，顧祝同連任秘書長八年，紅極一時，成為國民黨軍界和政壇上長盛不衰的常青樹。
      1962年3月，戰地政務委員會籌備處成立（主任蔣經國、副主任夏季屏），隸屬國防會議，負全部戰地政務政策的製定、審議、協調及督導之責。
      1972年夏，戰略顧問委員會被撤銷，顧祝同改任總統府陸軍一級上將戰略顧問，旋又受聘為中國孔學會榮譽理事長。1973年4月，擔任台北市江蘇同鄉會名譽理事長。
      1975年蔣介石去世後，蔣經國在顧祝同等人的呵護推舉下，當上了國民黨中央主席，順利接班。顧祝同認為自己完成了蔣介石賦予的託孤重任，於是向蔣經國提出辭去一切職務的請求。蔣經國見顧祝同已是耄耋老人，難以再有大的作為，便給他安排了一個中央評議委員會主席團主席的榮譽職位，使顧祝同體面地離開了最高決策圈。
      敗退台灣後，顧祝同的身體一直很好，能經常參加一些社會活動。
      儘管顧祝同不培植私黨，但他的老鄉觀念、同學觀念還是很濃厚。當年他有軍權時，對王敬久、王仲廉、冷欣、韓德勤、方先覺等同鄉的提拔是很盡力的。他對團長以上軍官，每月都發一筆補助；營級軍官雖沒有明補，但每人每月可透支100元軍費；連長吃幾個空額也不追究；年紀大了不能再當兵的，就安置到他創辦的農場裏，或資助一筆錢，讓他們經營小商業。他對部下的寬厚，籠絡了不少人，使他在國軍中獲得了“軍中聖人”的美名。到晚年﹐他的部下常去看望他﹐大家都敬重地稱他為“墨公”（顧字墨三）。
      離開了權力中心的顧祝同﹐身心輕鬆了許多﹐他把剩余的精力都放在了尊孔讀經上﹐大唱重整道德的高調。從1982年起﹐他開始口述回憶錄﹐名為《墨三九十自述》﹐由其秘書記錄整理後出版。
      顧祝同的晚年生活很有規律。他每天早睡早起﹐一直保持散步的習慣。他喜歡養花﹐認為養花不僅能陶冶性情﹐還能鍛煉身體﹐不管是買花﹐還是養花﹑賞花﹐對身體來說都是鍛煉。顧祝同家裏養了很多花﹐走進他家就像進了花園﹐因為長時期養花﹐顧祝同也好像成了園藝師﹐對養花很有研究。
      1987年1月17日淩晨4時20分﹐顧祝同因病重不治﹐於台灣三軍總醫院去世﹐終年96歲。文﹕蔡文浩