自民党是在1955年由两个保守自由主义政党自由党和日本民主党合并产生，以抗衡当时广受欢迎的日本社会党。自民党很快在选举获胜，在1955年组成日本第一个保守政府，占得政府中大多数议席。直到1993年败选为止，自民党保持了长达38年的一党独大制。
自民党执政后首先改革日本外交，例如加入联合国和与苏联建交。它的领袖也使它成为1950年代日本主要政党，那时所有的选举都获得了大多数票。它的唯一对手是左翼的日本社会党和日本共产党。1955年起，自民党在国会占有过半数，而日本社会党则为最大在野党，以后每次选举，这个均势也从未被改变，故被称为55年体制。
1960年代，由1964年日本主办奥运会开始，直至1972年日本宣布对越战保持中立，和日本经济奇迹开始为止，这段时期自民党和政府是由佐藤荣作领导。1970年代末，自民党开始衰落。虽然它仍处领导地位，却传出多宗丑闻。新增了公明党一员的反对派，也因此得到一点动力。
1970年代，日本社会党、日本共产党和公明党及国际社会都向日本政府施压，要求它和中国台湾地区“断交”，与中华人民共和国建交。 自民党形象标志
1980年日本的经济起飞和泡沫经济。80年代末冷战结束，日本也有关键角色。泡沫经济爆破和其他原因（例如里库路特事件）使自民党出现分裂，宫泽喜一内阁在党员倒戈下被国会通过不信任动议，并输掉1993年选举。胜出的几个反对党派，由属自由派的新生党领导组成政府，国会新人新生党党首细川护熙成38年首个非自民党首相。别的联盟成员有日本社会党，公明党，日本新党，民社党，先驱新党，社会民主联合(非自民·非共产连立政权)。但是社会党和先驱新党遭自民党忽略，于是离开执政联盟，转向加入自民党的反对行列。余下政党尝试组成少数派政府，但在1994年当社会党和头号大敌自民党合组大多数联盟后，这一尝试终告失败。自民党于是再度得势，虽然首相一位由社会党坐上。 自由民主党佐藤荣作