由于崔可夫所建立的卓越功勋和天才的组织指挥才能，使他在苏联军政界中的威望日益提高。1952年，他在苏共19次代表大会上当选为中央候补委员；1955年，晋升元帅军衔；1960年4月，调国防部，任副部长兼陆军总司令，7月又兼任民防司令；1961年，在苏共22次代表大会上当选为中央委员。赫鲁晓夫上台后，崔可夫倍受赏识，被视为最得力的助手。这时期的崔可夫实际上已成为苏联武装力量的中坚人物。
崔可夫根据当时国际形势发展的要求，主张质量建军，全面更新陆军装备，使陆军装备了大量先进的战术导弹、战役战术导弹、核武器等大规模杀伤武器，并使陆军实现了全部摩托化，为苏联谋得与美国的核均势、抗衡北约立下了不可磨灭的功绩。
自1972年开始，崔可夫改任国防部总监小组总监。他以72岁的高龄继续为苏联军队现代化建设出谋划策，呕心沥血。
崔可夫是一位具有敏锐洞察力和独创精神的天才儒将。他之所以能够从一个贫苦农民的儿子成长为一名卓越的红军指挥员，其中重要原因之一，就是刻苦学习，勤于思考。他一生善于总结，勤于笔耕，著作甚丰，撰写的回忆录、专著等达10多部。这些著作全面地记述了他在各个历史时期的战斗、工作、生活的经历，阐明了他的军事思想和战役战术理论，资料翔实，战例丰富，是崔可夫对人类文明的又一宝贵贡献。