枢机体制是天主教会设立的一种职务，并非建基于“神律”，亦不是神品（圣秩）的一个等级。枢机的职务，源于罗马教区的司铎团。
自公元最初数世纪起，罗马教区划分为多个区域，各有一间重点教堂或所谓“本堂”（即堂区教堂）。这些“本堂”按地域分为几个组别，而这些组别又各自与罗马五个大殿（Patriarchal Basilicas）保持联系。五个大殿是：拉特朗大殿（罗马主教座堂）、圣伯多禄大殿、圣保禄大殿、圣老楞佐大殿及圣母大殿。
“枢机”字源上来自拉丁文cardo一词，意即“枢纽”或“门铰”（英文为hinge）。教会视一个教区的主教座堂——主教驻守的地点——为教区的中心或“枢纽”。在教会历史上，那些驻在座堂的司铎，或固定地驻在某教堂或“本堂”，或原本为服务某教堂而领受司铎圣秩，但后来奉派为另一教堂服务的司铎，渐渐称为“枢机司铎”。在罗马，“枢机司铎”的职责包括代表罗马主教，即教宗，在“本堂”及罗马其中一个大殿奉献圣祭、分担教宗行政职务、出席教区会议和担当教宗的顾问。
由公元最初数世纪起，罗马亦设有多个执事区，由区域执事负责社会服务和物质上的需要，以及协助罗马几间大殿的礼仪。他们渐渐称为“枢机执事”。
由于身为罗马主教的教宗职务日渐繁重，故此教宗邀请那些邻近罗马的教区（称为“罗马城郊教区”）的主教来分担他的职务，包括出任顾问和代表教宗主持拉特朗大殿及其它大殿的隆重礼仪（尤其主日圣祭）。这些罗马城郊教区传统上有七个（在公元第七世纪仅有六个），地域及名称在历史曾有改变，但今日教会惯常列举的是Ostia, Palestrina, Porto-Santa Rufina, Albano, Velletri-Segni,Frascati, Sabina-Poggio Mirteto这七个教区，而它们的主教渐渐称为“枢机主教”。
公元769年召开的罗马教省会议规定，罗马的主教——教宗——必须由罗马教区的执事和“枢机司铎”当中选出来。从1059年起，为进一步确保教宗的选举不受俗世势力的影响，教宗尼各老二世规定，唯独“枢机主教”有权选举教宗，而其它等级的枢机和罗马教区的圣职班须接纳被选出的教宗人选。至于罗马君王，则只礼貌上获通知选举教宗的结果。至公元1179年，教宗亚历山大三世规定，上述三个等级的枢机都有权选举教宗。
近代的枢机团组织，由1150年起开始定型。当时教宗尤真尼三世任命了奥斯底亚的主教为枢机团团长，又另委任一位教廷总务长，其职责是在教宗出缺期间，处理教廷行政事务。从十二世纪起，罗马教省以外的一些神长，也被委任为枢机。亦自公元十二世纪起，枢机的职衔，亦授予其它总主教及主教，而至公元十五世纪，亦授予拉丁礼的宗主教。