至元十三年（1276年），江西道士张留孙前往元大都（今北京）朝觐元世祖，后留在大都作为天师张宗演的代表。张留孙晚年发现大都没有泰山神东岳大帝的行宫，遂发愿筹资兴建。
延祐六年（1319年），张留孙在元大都齐化门（今朝阳门）外买地，欲修建供奉东岳大帝的庙宇，庙未建成时张留孙便羽化。
至治二年（1322年），张留孙弟子吴全节继承师志，建庙之大殿及大门。
至治三年（1323年），吴全节建庙东西庑（长屋）及四子殿，塑神像，敕赐额曰“仁圣宫”，东岳庙正式建成。
泰定二年（1325年），元鲁国大长公主捐资修建庙宇后殿作为神寝。
天历元年（1328年），元文宗即位，公主进京朝贺，适值寝殿完工，文宗赐名“昭德殿”[2] 。
正统十二年（1447年）五月，明英宗动工修葺东岳庙。同年八月，修缮完成。完工后，明英宗朱祁镇亲自撰写《御制东岳庙碑》，将前殿改名岱岳殿，供奉东岳山神，后殿改名育德殿，为东岳大帝及东岳淑明后的神寝。
嘉靖三十九年（1560年），乾清宫太监偶因疾感，祷于东岳庙，不久后痊愈。他见庙宇颓圮，乃出资命御马监太监张暹、卢鼎等整修庙宇。同年八月，动工修缮，于同年十一月完工，将大殿、后宫、东西配殿廊庑各殿及神像、祭器整饬一新。又见庙外居民嘈杂，遂建影壁一座，摒除亵秽；还在东廊开凿水井，以济行人之渴；续建庙前东西房十九间交与东岳庙道士收管，勒石立碑，作《崇整岳帝司神修蕞续基碑记》。
隆庆三年（1569年），京都善士雷洪、余和、王盘、王敏，督工雷清等领众捐资重修东岳大帝、七十六司等神像。
隆庆四年（1570年），神像修复完工，立碑《东岳庙重新圣像碑记》。
万历三年（1575年），明万历皇帝的母亲李太后，因笃信佛道，将自己膏沐钱捐出，率领万历皇帝朱翊钧、朱翊钧的弟弟潞王朱翊镠、公主及诸宫御中贵各捐资重修东岳庙，命宫内掌事大太监冯保择内臣廉干者负责监工。
万历四年（1576年），修缮告成，张居正撰文《敕修东岳庙碑记》。
万历十三年（1585年），李太后诚献岱宗宝殿前大香炉，更换了七十六司前所有的香炉。明神宗甚至在泰山南麓为母亲李太后修建祠堂，永远奉祀泰山之神。
万历二十年（1592年），明神宗在梦中见到东岳大帝，以为神赐，当即下令整饬庙宇。不但在寝殿左右加筑了配殿，在殿后添建了后罩楼，而且添置了庙门前的东西两座过街碑楼，额曰“宏仁锡福”“灵岳崇祠”，工期用了整整一年。