夏、商、周
属扬州之域。
春秋
属皖、桐二国之地。
战国
为楚、吴属地。
统一中国后，实行郡县制，县境属九江郡皖县地。
西汉
高祖五年（前202年），废衡山王国置淮南王国，属淮南王国。
文帝十六年（前164年），分淮南王国置衡山王国，属衡山王国。
武帝元狩元年（前122年）又废衡山王国为庐江郡，属庐江郡，隶扬州。
武帝元封五年（前106年），设枞阳郡，后为庐江郡，皖、枞两县分领。
新莽
王莽新朝时，归属如故。
东汉
沿前制，为扬州刺使部庐江郡之舒、皖县地。
建武初年，皖县复为侯国，后复为县。
元和二年（85年），改属六安国。
章和二年（88年），复属庐江郡。
三国
仍为庐江郡。舒、皖二县地为魏、吴兵争之地。
建安十九年（214年）前属魏，后属吴。
西晋
复汉制，属庐江郡舒、皖及龙舒县地。
永嘉之乱后，皖县废。
东晋
安帝义熙年间（405—418年），刘裕平桓玄之乱后，分庐江郡置晋熙郡及怀宁县于皖县故地，属晋熙郡。
南北朝
宋武帝割扬州大江以西为豫州，晋熙郡怀宁县属之。
南齐沿宋制，怀宁县属豫州晋熙郡；其后分属梁之晋州、北齐之江州及陈之熙州。
初废郡置州，改晋熙郡为熙州，怀宁县属熙州。
大业三年（607年），废州为郡，属同安郡。