8000年前，张家港市南部地区就有人类活动，有11处新石器时代遗址，时间分布在距今2500年至8000年之间。商末，属勾吴之地。春秋时期，属吴国延陵郡。
秦代，属会稽郡。汉高祖五年（公元前202年），建毗陵县暨阳乡，为境内有据可查的最早的乡级行政建置。西晋太康二年（281年），以暨阳乡、南沙乡和无锡北部，合置暨阳县，为境内第一个县级行政建置。东晋咸康七年（341年），划暨阳东为南沙县。南朝梁太平元年（556年）废暨阳县，在暨阳之墟建梁丰县。
隋代，南沙并入常熟县，梁丰并入江阴县。唐武德三年（620年）复置暨阳县。九年，并入江阴县。此后1300多年间，属常熟、江阴两县分治。
唐宋年间，香山和镇山之间有一涧谷流漕，终年涧水不绝，溪流潺潺。如遇大雨，山洪直冲流漕所在东江湾沙，形成水渠。这条水渠就是后来的“张家港”。宋代开始，境内北部沙洲在长江中积涨出水，并形成了夹江。为了加快成陆，扩大田地，人们在夹江中筑坝截流，围圩造田。
明代万历元年（1573年），张南山自靖江生祠堂卜居香山北麓，在此开发圩塘，流渠旁边遂形成村落张家埭。由于开发的圩田常受山洪的涝渍，及为让经营粮米的木船可以停泊在自家门口，张氏家族于万历二十四年（1596年）、万历四十一年（1613年）两次拓宽流渠，形成河面宽7丈，底宽3丈，重载木船可进出自如的大河，但无河名。因此河乃是张氏祖上所开，后来又是张氏裔孙拓宽，至康熙三年（1664年）冬，江阴县衙正式批文命名此河为张家港。
清代，常通港以北属南通县（今南通市）。由于长江中沙洲积涨迅速，至清代咸丰年间（1851~1861年）大片沙洲与江南古陆接连。清代同治十三年（1874年）至民国，划常通港以北约10平方千米沙地予通州。