在中国封建社会时期，皇帝拥有至高无上的权力。皇帝无论在法律上还是在事实上都只享有权力而不承担任何责任。
中华民国时期，1934年的宪法草案曾有关于国家赔偿的规定。该草案第26条规定：“凡公务员违法侵害人民之自由或权利者，除依法律受惩戒外，应负刑事及民事责任。被害人民就其所受损害，并得依法律向国家请求赔偿。” 该宪法草案于1946年获得通过，标志着中华民国正式承认国家行政责任赔偿制度。除宪法外，当时还有一些法律规定了部分国家行政责任。如1930年公布的《土地法》规定，因登记等错误而使土地所有人的财产受到损害，由该地政府机关负损害赔偿责任；1933年公布的《警械使用条例》规定，因警察人员违法使用警械造成他人伤亡的，由政府先行负责赔偿医药费或抚恤费；1934年公布的《戒严法》和1944年公布的《国家总动员法》规定，政府对人民因国家实行戒严和总动员所受的损失，给予相应的赔偿或救济。 新中国成立后，中国开始了国家行政责任制度的建设。1954年颁布的第一部宪法中已有关于国家赔偿的原则性规定：“由于国家机关工作人员侵犯公民权利而受到损失的，有取得赔偿的权利。” 这是新中国首次用宪法的形式确立了国家赔偿的行政责任制度。此外，一些法律、法规中也有部分内容规定了国家侵权的行政责任。例如1954公布的《中华人民共和国海港管理暂行条例》中规定：“港务局如无任何法律依据，擅自下令禁止船舶离港，船舶得向港务局要求赔偿由于未离港所受之直接损失，并得保留对港务局之起诉权。”
由于文化大革命的原因，中国国家行政责任制度的建设一度中断。
1976年文化大革命结束后，随着中国民主法制建设事业的恢复和发展，中国1982年宪法重申了国家赔偿行政责任原则。该宪法第41条规定：“由于国家机关和国家机关工作人员侵犯公民权利而受到损失的人，有依照法律规定取得赔偿的权利。”与1954年宪法相比，新宪法的规定在两个方面有所发展，一是规定了国家机关的侵权行为及赔偿责任，二是提出了制定专门法律确认国家赔偿责任的要求。继宪法之后，中国1986年颁布的《民法通则》也规定了国家侵权的法律责任：“国家机关或者国家机关工作人员在执行职务中，侵犯公民、法人的合法权益造成损害的，应当承担民事责任。”以后又陆续有《治安管理处罚条例》、《海关法》等法律、法规规定的内容涉及到了国家侵权的行政责任。
中国1989年颁布的《中华人民共和国行政诉讼法》对于建立中国国家行政责任制度具有重要意义。该法专门规定了行政机关的侵权赔偿责任。对行政赔偿责任的主体、承担赔偿责任的条件、赔偿义务机关、赔偿程序、赔偿经费等问题都作了规定。《行政诉讼法》的颁布标志着中国行政责任制度的初步建立。
行政诉讼法颁布后，行政诉讼案件逐年增多，行政赔偿案件也随之增加，为进一步落实行政机关的行政责任，中国于1994年通过了《国家赔偿法》，1995年正式施行。《国家赔偿法》的通过和实施，标志着中国国家赔偿的行政责任制度的正式建立。