全境自夏代（约前21世纪～前16世纪）以后，属古扬州域。
东周春秋（前770～前476年）后期属吴，境内山区多为山越人聚居；战国初吴灭（前473年）属越；越亡（约前306年）属楚。
秦始皇二十一年（前223年）楚亡，全境统于秦，属鄣郡。
西汉元狩二年（前121年），属鄣郡改置之丹阳郡。陵阳（广阳、南阳）、临城、定陵诸县 。元封二年（前109年），境内始置陵阳县，治所为楚人所建陵阳城戍（今陵阳镇），县域含今青阳大部及石台、泾县与黄山市部分地区。东汉建安八年（203年），吴主孙权孙以陵阳北境及石城县地置临城县，与陵阳县并属丹阳郡。临城治所在城子山之东，一说即今县城以南五里之蓉城镇光华村，县境含今青阳北部各乡镇及南陵县、铜陵县部分地区。
西晋太康二年（281年），陵阳、临城并属丹阳郡以南所析置之宣城郡。东晋咸康四年（338年），因避杜后讳，改陵阳县为广阳县，隶属不变。义熙（405～418年）中，侨置定陵县由丹阳（今当涂县丹阳镇）迁至临城东北境，今丁桥镇古称定陵乡，治所应即在境内，确址或谓即古之管埠镇；县境含今青阳北部丁桥、木镇等乡镇及南陵、铜陵部分地区，属淮南郡，广阳、临城仍属宣城郡。
南朝刘宋大明六年（462年），定陵属宣城郡。萧齐（479～502年）仍旧。萧梁普通六年（525年），临城、定陵改属南豫州南陵郡。陈（557～589年）仍之。
隋开皇九年（589年），陈亡，广阳、临城、定陵统归于隋，旋废定陵、临城入南陵县。大业元年（605），因避炀帝讳，改广阳县为南阳县，旋废入泾县。