中华人民共和国建立后，为加强中国人民解放军正规化、现代化建设，培养适应现代战争要求的指挥员，经中央人民政府人民革命军事委员会批准，在原华北、华东军事政治大学的基础上，创办中国人民解放军军事学院。
1951年1月15日，军事学院在南京成立。刘伯承领导了创建工作，并任院长兼政治委员。军事学院的成立，是中国人民解放军由初级建军阶段进入高级建军阶段的主要标志之一。军事学院编制等级为大军区级，直属中央军委领导。其基本任务是：认真学习马克思主义军事理论和毛泽东军事思想，总结人民解放军丰富的作战经验和学习其他国家军队的有益经验，在人民解放军现有军事、政治素质的基础上，培训能够组织指挥现代条件下各军种、兵种协同作战的合成军队高级指挥员和高级参谋人员，以加速建设现代化、正规化的革命军队。
1956年，发展为具有战役、战史、高级速成、高级函授、政治速成、基本、情报、海军、空军、炮兵、装甲兵、防化兵12个系和战史、战役、政治经济、文化外语等50个教授会的综合性军事学府。不仅为全军培养了一批合格的军事指挥人才，还建设了一支具有现代军事知识的教研队伍，编写了一套体现现代条件下军队建设和作战需要的教材，建立了较完善的教学制度。[7]
1957～1959年，根据中央军委决定，以军事学院有关的系为基础，分别组建高等军事学院、军事学院和海军、空军、炮兵、装甲兵等学院。高等军事学院设在北京，其任务是：训练全军陆海空军正师职以上现职军事、政治、后勤干部，高级参谋人员及军事理论人员。刘伯承为第一任院长兼政治委员，叶剑英、陈伯钧、李聚奎先后任院长，李志民任政治委员。军事学院仍设在南京。其任务是：培训全军团职及部分师职军事指挥干部。廖汉生、刘浩天、张震先后任院长，钟期光、王平先后任政治委员。海军、空军、炮兵和装甲兵等军种、兵种指挥院校主要培训本军种、兵种的团、营职指挥干部。至此，中国人民解放军形成了高、中级指挥院校培训体系。
1966年10月起，由于“文化大革命”的破坏，高等军事学院和南京军事学院停止了教学活动。
1969年，高等军事学院、南京军事学院、政治学院、后勤学院被撤销，合并组建中国人民解放军军政大学。
1970年8月6日，军政大学在北京成立，黄永胜兼任校长，张秀川任政治委员。主要轮训团以上干部，只进行政治教育，取消了军事课教学。
1972年5月，中央军委任命萧克为军政大学校长，唐亮为政治委员，开始治理“文化大革命”给学校造成的严重破坏，逐步建立起军事、政治、后勤3个系和所属的军事、政治、后勤教研室，恢复了军事政治后勤课教学。