公元4世纪基督教会与罗马皇帝君士坦丁建立和睦关系并很快取得罗马帝国国教地位后，在整个中世纪统治西方世界的一直是两大权威，即教宗与皇帝，或曰教权与皇权，两者之间既有斗争，也有结合。8世纪教宗国建立，13世纪时教权达到顶峰，罗马天主教会处于万流归宗的地位，也是最顽固的封建堡垒，罗马天主教会是封建王权的精神支柱。罗马天主教会和封建统治者结合在一起，发动宗教战争，奴役广大劳动人民，推行殖民主义，罗马天主教会于1215年在教宗英诺森三世当权时开始设立宗教裁判所，在几个世纪中，迫害了无数无辜的人和科学家、进步人士。教会内部则充满形形色色的腐败现象，成为人们抨击和嘲讽的对象和社会进步的绊脚石。罗马教会在达到鼎盛时期后，在战争的损耗和社会进步的冲击下，迅速地由盛转衰，这可以从几个方面来分析。[4]
一、近现代种种哲学思潮、社会学说对中世纪神学的冲击
二、国际政局对教会的震动
三、科技进步对宗教世界观和天主教神学的冲击
四、教会内部各种反对派引起的冲突和造成的影响
五、教会陷入空前的困境[4]
面对如此困难，一个严重的、关系到教会的前途和命运的抉择摆在梵蒂冈的面前。过去的时代已一去不复返了，当前的世界是个大大改变了的世界，天主教会从组织到神学，从教会法到礼拜仪式，从活动方式到对外关系都与这个世界格格不入，这种不适应，使教会明显地衰落了。[4]
20世纪50年代末、60年代初，国际关系中出现了新的急剧变化，各种新思潮十分活跃，世界进入大动荡、大分化、大改组的历史时期，许多国际因素都对罗马天主教会作出新的抉择产生了巨大的促进作用。首先，国际共产主义运动出现分裂。其次，亚非拉众多国家相继独立，在国际事务中日益发挥重要的影响。
与此同时，梵二会议的发起者教宗若望二十三世有着丰富的阅历和开阔的眼界。他的继任者教宗保禄六世也有长期的教会生涯和担任代理国务卿等教廷重要职务的丰富经验。他于1963年6月继任教宗后，把梵二会议进行到底，主持制订和发表了梵二会议的全部文件并把会议的各项改革决议付诸实施。