约公元前4000年，今淮安市境域内就有人类活动的踪迹，形成“青莲岗文化”。 淮安市区水渡口
夏商周时期，今淮安市境域内为“淮夷”聚居地。春秋战国时期，今淮安地区交通便利，有“善道”通达南北，邗沟沟通江淮，且土地肥沃利于灌溉，故成为列强诸侯争夺的地区，先后为吴国、越国、楚国所有。
秦王政二十四年（前223年），推行郡县制，置四川郡、东海郡，今淮安市境分属以上两郡；始置淮阴县（治今淮阴区马头镇，时属东海郡）、盱眙县（治今盱眙县城东北）、东阳县（治今盱眙县马坝东南）。
西汉高祖五年（前202年），封韩信为楚王，今淮安属楚国。西汉高祖六年（前201年），夺韩信楚国，分原楚国为荆、楚二国，今淮安属荆国东阳郡。同年，贬韩信为淮阴侯，淮阴为韩信封邑；封刘缠为射阳侯，射阳为刘缠封邑。西汉初（约前200年），淮阴西南境置富陵县（今洪泽湖及洪泽、盱眙部分境域）。汉高祖十一年（前196年），废韩信淮阴侯国，置淮阴县。西汉惠帝三年（前192年），废刘缠射阳侯国，置射阳县。西汉元狩六年（前117年），置临淮郡，辖淮阴县、富陵县、射阳县、盱眙县、东阳县、淮浦县（治今涟水县西）。东汉建武十五年（39年），封皇子刘荆为山阳公，治白马湖北。东汉初年，并临淮郡入东海郡，并富陵县入淮阴县。东汉永平十五年（72年），析东海郡，原临淮郡故地立下邳国，今淮安市境大部属下邳国。东汉建安十一年（206年），改下邳国为下邳郡。东汉后期，东阳、射阳两县改属广陵郡。东汉末年，广陵郡移治射阳县。
魏晋南北朝时期（220年—589年），今淮安市境长期处于战争和对峙的前沿，建置紊乱，隶属多变，今市区马头镇其时均为军事要塞，多设州郡治所，为边帅驻节之地。长年战乱导致“江淮之间，赤地千里”，经济和文化遭到严重破坏。西晋太康三年（282年），广陵郡自射阳县移治淮阴县。东晋义熙七年（411年），析广陵郡、临淮郡，置山阳郡，设山阳县，山阳郡辖山阳县、左乡县、东城县、盐城县4县。南齐永明七年（489年），析山阳郡山阳县，置寿张县、淮安县；设东平郡，治淮阴县，辖淮阴县、寿张县、淮安县3县，“淮安”之名始见。梁天监年间（502—519年），改为淮州，治淮阴故城，县改称“怀恩”。陈太建九年（577年），改怀恩县为寿张县，复建东平郡。