秦始皇赢政二十六年（前221年），改楚之尾地，设郴县，属长沙郡。1994年12月，撤销郴州地区，设立地级郴州市。“郴”字篆体为“林邑”，由“林”邑”两字组成，意为“林中之城”。秦改楚之尾地设郴县，属长沙郡是为“郴”名之始。[133]
春秋战国时期，郴州属楚国地域[2] 。
秦嬴政二十六年（公元前221年），秦始皇统一天下，废诸侯立郡县，始设郴县，属长沙郡。郴州成为历代县、郡、州政治、经济、文化中心。汉高祖五年（公元前202年），在湘地置长沙国和桂阳、武陵二郡，桂阳郡治所在郴州县邑[3] 。其区域除含今郴州市（不含安仁县）外，还包括今耒阳市、蓝山县和粤北部分地区。西汉元鼎四年（前113），桂阳郡辖郴、临武、南平（今蓝山县）、便（今永兴县）、耒阳、桂阳（今连州市）、阳山、阴山、曲江、含洭、浈阳（以上5地均在今广东省境内）等11县[2] 。
三国吴甘露元年（265年），分桂阳郡南境的曲江、桂阳、阳山、含洭、浈阳等地置始兴郡，桂阳郡辖区缩小为郴县（今北湖区、苏仙区、桂阳县）、阳安县（今资兴市、汝城县、桂东县）、临武县、便县、南平县、耒阳县[2] 。三国归晋后，桂阳郡初属江州，后属湘州[3] 。西晋建兴三年（315年），分设桂阳郡、平阳郡。南朝陈天嘉元年（560年），又析桂阳郡地置卢阳郡，桂阳郡一度改置桂阳国，后又改国为郡[3] 。
隋开皇九年（589年），桂阳郡、卢阳郡统为郴州。隋炀帝在位时，又改郴州为桂阳郡[3] 。唐天宝元年（742年）[3] ，复称郴州，属江西南道，旋又改置桂阳郡[2] 。唐乾元元年（758年），桂阳郡改设郴州，时辖八县。唐贞元二十年（804年），始置桂阳监[3] 。五代后晋天福元年（936年），郴州改置敦州。后汉乾祐三年（950年），复为郴州。宋朝，郴州为郴州桂阳郡，桂阳监升为桂阳军，设知军。元朝，改设郴州路、桂阳路，属湖广行省，设总管[3] 。