夏禹时期，境内为蔡地（今上蔡县）、吕地（今新蔡县）、挚地（今平舆县）和柏皇氏活动地（今西平县）。后，《尚书·禹贡》中夏禹分天下为九州，地属豫州。西周地域分属蔡国（今上蔡县、新蔡县，治今上蔡县城）、沈国（今平舆县及汝南县东部、正阳县北部，治今平舆射桥）、江国（今正阳及确山南部，治今正阳县大林镇涂店村）、道国（今确山县北、驿城区南，治今驿城区古城）、房国（今遂平县，治今遂平县文城）、柏子国（今西平县，治今西平县西）、申国（今泌阳县属之，治今南阳）。 共13张 崛起的驻马店新城市
春秋时，地域分属楚、江、沈、蔡、道、房、柏子等国所辖。东周敬王十四年（前506年），蔡灭沈，后蔡、道、江、房等国均为楚所灭并，柏子国也在春秋末期归楚。
战国时，大部地域属楚，今西平县和泌阳县地域属韩。
秦时，大部地域先属颍川（治今禹州）、南阳（治今南阳）、楚（治今江陵）3郡，后属陈（治今淮阳）、南阳（治今南阳，今泌阳县属之）2郡。境内置上蔡、新蔡、平舆3县。
西汉（前206—8年），置汝南郡（先治今上蔡县，后治今平舆县）和南阳郡（治今南阳市）。汝南郡隶豫州刺史部，领37个县、侯国，境内有16个县：平舆县（今平舆县北）、阳城县（今平舆县西北）、新蔡县（今新蔡县）、归德县（今新蔡县佛阁寺一带）、鲖阳县（今新蔡县北）、安阳县（今正阳县南）、慎阳县（今正阳县）、阳安县（今驻马店市驿城区古城）、安昌县（今确山县西）、朗陵县（今确山县西南）、安成县（今汝南县东南）、宜春县（今汝南县西南）、灈阳县（今遂平县）、吴房县（今遂平县文城）、上蔡县（今上蔡县）、西平县（今西平县吕店附近）。南阳郡隶荆州刺史部，领36县，境内居2县：舞阴县（治今泌阳县羊册镇）、比阳县（治今泌阳县泌水镇）。西汉末，归德县省入新蔡县。
王莽称帝后，新莽初始二年（9年），新蔡县易名新迁县。