在1959年7月的廬山會議上，彭德懷被打倒，洪學智受到株連，以“彭德懷的黑幹將”的罪名，被免去解放軍總後勤部部長一職。1960年5月，洪學智被下放到東北，安排在吉林省農業機械廳當廳長。
      洪學智心態平靜，積極工作。他與廳裏其他領導和工程技術人員，下到縣、鄉、村調查，瞭解農民的需要，製訂發展農業機械的規劃、步驟、辦法。在每個縣都搞了一個農業機械廠。他在四平建了農業機械總廠，還找到有關部門，千方百計地從德國引進了一台收割機，從全省農機系統抽調精兵強將，把這台引進的收割機全部拆開，研究其構造原理，然後再一個部件一個部件地組織生產，終於製造出了國產的收割機。吉林省農業機械生產能力和水準上了一個新台階。
      1962年，吉林省進行機構精簡，農業機械廳與重工業廳合二為一，稱重工業廳，洪學智被任命為重工業廳廳長。
      “文化大革命”開始後，全國各地的造反派組織紛紛成立，吉林省重工業廳的造反派也開始“奪權”，各級領導都“靠邊站”了。洪學智是受“彭案”牽連被降職到地方工作的，理所當然成為“批判”的重點。不久，洪學智就失去了工作權利，被造反派看管起來，沒有了人身自由。那些“小將”們對他說：你是彭德懷的黑幹將，打倒在地還要踏上一隻腳。後來實行軍管，他仍是被管制的對象，仍然沒有人身自由。造反派開會批鬥他，讓他揭發彭德懷的問題。洪學智說：“我跟隨彭德懷在朝鮮戰場幾年，出生入死，我不知道他有什麼問題。”
      有一次，有一位老幹部告訴洪學智：毛澤東有一次見到韓先楚，問過他：“好久沒有見到洪學智了，他到哪裏去了？”韓先楚說：“我也很長時間沒有見到他了，聽說他在吉林。”毛澤東說：“見到洪學智轉告他，廬山會議他是個認識問題，沒什麼大不了的事。”
      然而，毛澤東的話並沒有改變洪學智的命運。大約在1970年底，在一些人的縱容下，他還是被下放到金寶屯農場勞動改造，被安排在加工連，餵豬、餵雞、磨豆腐、磨麵粉等等，什麼臟活、累活、苦活都得幹。那時，他已接近60歲了，因為身體還好，個頭又大，幹活從不偷懶，一二百斤的糧食袋子扛在肩上就走。
      1971年9月13日，發生了“九一三事件”。此後不久，毛澤東又一次打聽洪學智的下落，問周恩來：“洪學智現在搞到哪裏去了？”
      周恩來說：“在東北的哪個地方。”
      周恩來找瀋陽軍區的領導問洪學智的情況。吉林省只得讓他從農場回來，到石油化工局當局長。
      1977年8月，中共在北京召開“十一大”。8月18日，長春市統一組織慶祝大遊行。洪學智也和石化局的全體人員加入到遊行隊伍中。遊行到上午11點左右，突然有人找到他，對他說：“你不要參加遊行了，趕快回去，簡單收拾一下東西，馬上回北京，有新的工作，中央派來的飛機正在機場等你呢！”
      洪學智隨前來接他的人趕到長春機場，登上正等候在那裏的一架軍用飛機，來到北京。
      下了飛機，中共中央組織部的一位處長把他直接接到了京西賓館。原來，在“十一大”上，他已經被選為軍委委員，這次是讓他來參加軍委會議的。在這裏，他見到了一些多年未見的老戰友。
      會後，葉劍英對他說：“你對後勤工作有經驗，現在後勤這個攤子很大，共有60多萬人，?珖文革?玼中受的干擾破壞很嚴重，你回到後勤部，要很好地整頓一下，把組織搞健全，把工作關係理順。”
      洪學智說：“我聽軍委的安排。”
      1980年1月，洪學智再次出任總後勤部部長，不久，又兼任中央軍委副秘書長。