1985年3月9日,中央军委调整总参谋部的领导班子,免去了张震的副总参谋长职务。此时,张震已是70开外的人了。对于组织上的这一安排,张震早有心理准备,他在当天的日记中写道:“这次调整有利于今后工作开展,年轻人精力充沛,记忆力强,接受新事物快。”相濡以沫45载的夫人马龄松更是高兴,说:“过去你忙,今后我们可有时间聊天了。”
3月18日,总参谋部召开各部局领导干部会议,宣布中央军委的任免命令。在离职讲话中,张震表示完全拥护军委的决定,热诚欢迎新调入总参谋部的同志,并衷心感谢五年多来杨得志总参谋长与各位同志对自己工作的支持。他曾对一些同志说:“我的军事生涯到此结束了。”按照杨得志的意见,在进行为期3个月的工作交接后,退下来的同志就可以安心休息了。
可一个月后,4月30日,军委常务会议作出决定:“委托张震同志牵头,吸收三总部有关同志参加,负责筹建国防大学。”11月30日,经中共中央批准,中央军委发了国防大学领导班子配备的命令,张震任校长,李德生任政治委员。张震的第一次退休准备“落空”。
1990年4月,中央军委调整全军各大单位领导班子,早已超龄服役的张震又一次做好了退休准备。在李德生退居二线时,张震曾向中央军委提出:我们是一起来的,我还比他大一两岁,要下就一块下吧。最后,军委考虑到国防大学建设的实际需要和张震的身体状况比较好,决定要张震继续留任,并兼任政治委员,同时担任校党委书记。就这样,76岁的张震成为当时全军大军区正职领导干部年龄最大的一员,也是年龄最大的现役上将。
1992年,张震78岁,他早有退休的思想准备。在当年4月召开的中央军委扩大会议上,张震就表示,这是自己最后一次参加军委的会议了。随后,张震又向军委领导同志写了正式的书面报告,建议派一个合适的同志来接替自己的工作。
就在张震再次准备退休的时候,9月中旬的一天,一位同志来传达中央领导同志的意见:中央根据小平同志的建议,考虑在党的十四大时,要张震参加军委领导工作。10月12日至18日,党的第十四次全国代表大会在北京召开,张震当选为第十四届中央委员会委员。19日,十四届一中全会选举江泽民为中央军事委员会主席,决定刘华清和张震为中央军委副主席。