开山始祖圣聪上人自幼于千叶寺出家，原本为真言宗僧人。1385年在位于武藏国丰岛郡贝冢村的光明寺释道时，受到净土宗七祖的圣冏上人的教化，舍却真言宗的教义皈依其门下，并且在1393年12月继承了净土宗正统成为净土宗第八世祖。其后将光明寺的宗旨改为净土宗，并将寺名也更改为增上寺。 增上寺大门
天正18年（1590年），第十二世住持存应上人受江户幕府初代征夷大将军德川家康的皈依，营造扩建了大伽蓝，被指定为德川家灵庙之一。同时也被指定为关东十八檀林之首，增上寺因而越来越兴旺。
庆长3年（1598年），由于江户城的扩建，寺址迁移到芝。德川家康还捐赠三解脱门、经藏以及大殿的建立等。当时的朝廷还册封存应上人为“普光观智国师”的封号，并赐予常紫衣（袈裟）。
这时的增上寺，在宗派上的地位已跟位于京都的知恩院相等，寺庙的领地高达一万余石，寺领之内有48院，学寮有一百多间，在当时称为“寺格百万石”。
延宝8年（1680年）6月24日，当时由于江户幕府第四代将军德川家纲因病去世，在增上寺举行葬仪时，执行警备职务的奉行内藤忠胜，因为不满另一名奉行永井尚长而拿刀将其刺死，史称“芝增上寺的刃伤事件”（芝増上寺の刃伤事件）。 共3张 增上寺
1867年，江户幕府末代将军德川庆喜将政权归还给明治天皇，日本正式进入明治时代，同时也开始了明治维新。为了强调天照大神后代的天皇才是日本最高的统治者，强力鼓吹神道，并且为了进一步区分神道与佛教，于是下了一道神佛分离令。
这一来造成了日本佛教遭到排斥与摧毁，虽然原本的神佛分离令本意并非是要排斥佛教，不过还是引发了废佛毁释的运动，增上寺由于本身也属神佛共存，因此在1874年以及1909年都遭到排佛主义者的放火与破坏，本堂因此被烧毁两次。
同时也因为神佛分离令的影响，寺庙的领地大大的缩小，空出来的部分约20万坪寺领成为芝公园。寺内原本祭祀德川家康寿像的“安国殿”，由于神佛分离令的关系，因此脱离增上寺改名为芝东照宫。
明治8年（1875年），增上寺被列为净土宗的大本山，加上有伊藤博文等新的信徒加入，开始了增上寺的复兴建设。大正时代将被烧毁的大殿重建，其他被摧毁的堂宇也开始着手整备与复建。
不过到了昭和20年（1945年）因受到太平洋战争的影响，增上寺一带遭受到空袭，所有的复兴重建都在一瞬间被摧毁。
战争结束后的昭和27年（1952年），设立的临时本堂。并在昭和46年开始（1971年）历经约四年的时间，花费约35亿日圆重新建造了新的本殿。平成元年（1989年）4月，为纪念圣聪上人550回忌，将开山堂重建为慈云阁。