西汉高祖五年（前202年），始建酃县（今珠晖区酃湖乡，西汉至隋朝酃县治现衡阳市珠晖区酃湖，后迁现炎陵县治）。
共3张 衡阳市标准地图
西汉末年，酃县西部设钟武侯国。
三国时期，衡阳分属于衡阳郡和湘东郡，出现二郡分立，分别隶属于荆州湘东郡和衡阳郡，耒阳、常宁属桂阳郡。
西晋初，沿袭之，后析荆州、广州置湘州，现衡阳市均属湘州。东晋废湘州并其入荆州，先后设湘东郡、湘州，现衡阳市均位于其范围内。
南朝宋齐梁陈四朝，仍设重安县、临蒸县、衡山县，南朝陈设新城县，湘州隶衡阳国；耒阳、衡东先后属桂阳郡、湘州；常宁均属湘东郡；现祁东刘宋时分属永昌、祁阳二县，隶湘州零陵国，齐梁陈三朝，祁东亦分属永昌、祁阳二县，属零陵郡。[5]
隋开皇七年（589年），隋灭陈并改郡为州，并湘东、衡阳两郡为衡州，并临蒸、新城、重安为衡阳县，州、县城均设湘江东岸，为历史上首次出现以衡阳命名的县。
唐武德四年（621年），置衡州，复析临蒸、新城、重安三县。后重安、新城并入临蒸。开元二十年（732年），复名衡阳，为衡州治。天宝元年（742年），衡州改为衡阳郡。乾元元年（758年），复为衡州。[5]
唐玄宗开元二十一年（733年）时，分属山南东道、江南西道和黔中道、黔中道黔州都督府，唐代宗广德二年（764年）在衡州置湖南观察使，从此在中国行政区划史上开始“湖南”之名。[93]
五代十国时期，马殷在湖南创建楚国，衡阳为衡州地。
北宋时，现衡阳市仍分属衡州与潭州，现衡山、衡东、祁东属潭州。南宋沿袭之。
元朝，确定行省制度，省下设路，改置衡州路总管府，现衡阳市分属衡州路总管府和永州路总管府，在衡州设湖南道宣慰司（后迁治潭州），隶属湖广行省。元贞元年（1295年）衡永郴桂诸路人民抗粮、抗丁，起义频繁，朝廷于衡州设行枢密院。[5]
明初，置衡州府，隶属湖广行省。下辖衡阳、衡山、衡东、常宁、耒阳、安仁、炎陵、桂阳、嘉禾、蓝山、临武地。明朝中后期设雍王、桂王藩国，都衡阳。