1977年，总后勤部迎来了领导班子调整。张震被任命为部长，而政委一职已经空缺了两年，领导层决定为此选派一位新的政委。几位候选人被提名，其中王平将军也在候选名单之中。邓小平决定与张震单独谈话，询问他对政委人选的意见。

在众多候选人中，张震认为王平是最合适的人选。王平在政治上极具分量，经验丰富，且作风民主，这些都使得张震对他充满信任。而且，张震与王平曾经长期合作，彼此的默契与配合无可挑剔。在大动荡的年代，两人都曾经历过不小的波折。张震认为，如果由王平担任政委，定能为总后勤部带来稳定和发展。最终，领导层决定按照张震的建议，将王平调任总后勤部担任政委。

回顾王平的经历，实际上，他曾有一段长达八年的空档期。在这些年里，他几乎没有任何正式的工作，面临着极大的职业困境。1958年，王平从朝鲜回国后，被调任南京军事学院担任政委。此后，他先后与廖汉生、刘浩天、张震等人合作，其中与张震的合作时间最长。两人曾一起度过那个动荡的年代，曾多次在政治斗争中受到冲击，最终都离开了军事学院的领导岗位。

在那个动荡的时代，王平和张震都遭遇过重大的冲击。张震曾遭到造反派的暗算，险些丧命。与此同时，王平在进行十二指肠溃疡手术后，竟然被监禁了起来，身体和精神都受到了很大创伤。与王平不同，张震恢复得较快，1969年底便被下放到武汉工厂进行劳动，几个月后重新恢复了工作，并调任武汉军区副司令员。

王平则被列出几十条罪状，并且这些罪状逐一得到了平反。直到1972年，王平才得以返回南京，开始等待进一步的处理。然而，整整一年过去了，依然没有人主动来找他，心中不禁焦虑不安。为了尽快恢复工作，王平决定前往北京寻找叶帅，希望能够尽快得到安排。在北京，王平等待了几个月，但叶帅和李德生始终未能为他落实工作安排，最终只能给他恢复了基本的党组织生活。1974年初，王平返回南京，继续等待最终的决定。

1975年4月，王平终于迎来了自己新的任命，他被调任炮兵司令部担任政委。刚到任时，许多人对王平的身体状况产生了疑虑。毕竟，他走路气喘吁吁，甚至在大会上讲话时卡壳。然而，王平用自己的行动证明了自己的能力。刚上任不久，他便开始着手平反冤假错案，整顿内部工作。不到四个月，他就取得了显著的成绩，成功恢复了单位的秩序，并赢得了大家的尊重。最终，他在1977年被调任到武汉军区，继续为部队的建设贡献力量。

在武汉军区，王平得到了叶帅和邓小平的特别指示。他们告知王平，武汉军区地理位置优越，是中原的战略核心地带，肩负着重要的军事任务。上级要求王平在武汉军区要稳定部队，掌握好部队，整顿好部队。武汉军区当时下辖三个军和两个独立师，四个特种兵师，任务繁重，情况复杂。初期，许多人对整顿工作心存疑虑，担心受到牵连，不敢做出任何改变。王平对此毫不退缩，他明确表示：“不要一朝被蛇咬，十年怕草绳。”在平反冤假错案的过程中，王平坚持客观公正地对待每个案件，为那些被冤枉的人恢复了公道。

在武汉军区工作的两年里，王平与杨得志的配合默契，推动了许多重要工作的顺利进行。到了1977年，王平被再次召回北京。叶帅告诉他，总后勤部的领导班子需要重新调整，军委经过多次讨论，认为王平是最适合的人选。

临行前，叶帅告诫王平：“总后是个烂摊子，情况非常复杂。”邓小平也强调：“必须要整顿好，尤其是原有的干部，品质不好的要调整出去，身体状况还不错、表现良好的可以继续工作。”罗瑞卿秘书长则指出：“总后勤的问题非常严重，必须彻底清查，不能有任何松懈。”王平深知肩上的责任重大，他决心用自己的力量彻底改变这一切。

在担任总后勤部政委期间，王平与张震配合无间，他们一起着手解决历史遗留问题，团结各方力量，逐步消除“老大难”的局面。经过集中整顿，总医院等单位的工作面貌发生了显著变化。此次整顿涉及干部多达三千人，王平和张震严格区分不同性质的矛盾，一边清查，一边进行调整和选拔，确保选拔到一批政治表现好、年富力强的干部。

经过几年的努力，总后勤部的工作逐步走上正轨，得到了军委的高度认可。王平在总后勤部工作了整整八年，直到1985年才正式退居二线，带着一份令人敬佩的成绩和荣耀离开了这一岗位。