夏朝时期，华东地区分属兖州、青州、徐州和扬州等地。
周朝时期，华东分属宋国、齐国、纪国、鲁国、滕国、吴国、楚国、莒国和邾国等地。
秦朝时期，分属九江郡、四川郡、薛郡、东海郡、会稽郡、砀郡、闽中郡等地。
唐朝时期，分属河南道、河东道、淮南道、江南道等地。[1][2]
明朝改行省为承宣布政使司，在全国设置十五个省级单位，称为“两京十三布政司”。华东地区分属南直隶（今江苏、上海和安徽）、山东、浙江、江西、福建等地。
清朝入关后基本沿袭明朝的行省制度，行政区划大致未变。1645年（顺治二年）改北直隶为直隶省，改南直隶为江南省，废除了南京为国都的地位。1667年（康熙六年），江南省正式分为江苏（含上海）、安徽二省，自此华东地区各省名称与今日大致相同。
1927年3月，国民政府设上海特别市，从江苏省上海县和宝山县析出；同年5月，设南京特别市（首都特别市），从江苏省江宁县析出。1929年7月，设青岛特别市，从山东省划出。自此，华东地区省级行政区划分别为江苏省、安徽省、浙江省、江西省、山东省、福建省、南京市、上海市、青岛市。
新中国建立初期，曾设华北区、东北区、西北区、中南区、华东区、西南区六大行政区，为当时一级行政区。其中，华东行政区的辖区相当于如今的上海市、江苏省、安徽省、浙江省、福建省、山东省和台湾省。行政委员会驻上海市，由饶漱石担任行政委员会主席。江西省当时属中南行政区。[3][4]
1952年，南京直辖市、苏北人民行政公署和苏南人民行政公署合并为江苏省，南京由直辖市降为省辖市，省会南京市。皖北人民行政公署和皖南人民行政公署合并为安徽省，省会合肥市。
1954年6月，大行政委员会撤销，地方行政机构统一于省市地县制（中央人民政府委员会1954年6月19日第32次会议决定）。[3][5]
1961年，中央设置华东经济协作区，为全国六大经济协作区之一（非行政区划），包含上海、江苏、安徽、浙江、福建、江西和山东等地。1978年后撤销。[5][6][7]