约公元前4000年，今淮安市境域内就有人类活动的踪迹，形成“青莲岗文化”。
夏商周时期，今淮安市境域内为“淮夷”聚居地。春秋战国时期，今淮安地区交通便利，有“善道”通达南北，邗沟沟通江淮，且土地肥沃利于灌溉，故成为列强诸侯争夺的地区，先后为吴国、越国、楚国所有。
秦王政二十四年（前223年），推行郡县制，置四川郡、东海郡，今淮安市境分属以上两郡；始置淮阴县（治今淮阴区马头镇，时属东海郡）、盱眙县（治今盱眙县城东北）、东阳县（治今盱眙县马坝东南）。
西汉高祖五年（前202年），封韩信为楚王，今淮安属楚国。西汉高祖六年（前201年），夺韩信楚国，分原楚国为荆、楚二国，今淮安属荆国东阳郡。同年，贬韩信为淮阴侯，淮阴为韩信封邑；封刘缠为射阳侯，射阳为刘缠封邑。西汉初（约前200年），淮阴西南境置富陵县（今洪泽湖及洪泽、盱眙部分境域）。汉高祖十一年（前196年），废韩信淮阴侯国，置淮阴县。西汉惠帝三年（前192年），废刘缠射阳侯国，置射阳县。西汉元狩六年（前117年），置临淮郡，辖淮阴县、富陵县、射阳县、盱眙县、东阳县、淮浦县（治今涟水县西）。东汉建武十五年（39年），封皇子刘荆为山阳公，治白马湖北。东汉初年，并临淮郡入东海郡，并富陵县入淮阴县。东汉永平十五年（72年），析东海郡，原临淮郡故地立下邳国，今淮安市境大部属下邳国。东汉建安十一年（206年），改下邳国为下邳郡。东汉后期，东阳、射阳两县改属广陵郡。东汉末年，广陵郡移治射阳县。