张家港市历史久远，拥有11处新石器时代遗址，它们是：东山村遗址、徐家湾遗址、许庄遗址、蔡墩遗址、韩墩遗址、河阳山遗址、凤凰山遗址、西新村遗址、西张遗址、西旸遗址、老烟墩遗址。 时间分布在距今2500年至8000年之间，其中南沙东山村遗址的出土文物是长江下游最早的古文化遗址。

商末属勾吴之地。春秋时期属吴国延陵。秦代属会稽郡。

晋代，江阴郡下置暨阳县，县治杨舍镇。梁代，在暨阳之墟建梁丰县。

唐以后，属江阴县。唐宋年间，香山和镇山之间有一涧谷流漕，终年涧水不绝，溪流潺潺。如遇大雨，山洪直冲流漕所在东江湾沙，形成水渠。这条水渠后来竟成为闻名中外的“张家港”。

据南沙镇山村六组张兴生珍藏的《重修张氏宗谱（孝友堂）》载，明代万历元年（1573），有张南山者，自靖江生祠堂卜居香山北麓，此为张氏香山支始迁祖。南山公在此化钱买券，开发圩塘，流渠旁边遂形成村落张家埭。

由于开发的圩田常受山洪的涝渍，于万历二十四年（1596）张氏合族集议，子孙齐心协力，将流漕拓宽成河。新河面宽3丈，底宽1丈，长300余米，由此免除了涝渍之苦，但未有河名。至万历四十一年（1613），张氏为经营粮米自备木船3条，往返于扬州、高邮之间，数载后获利甚丰。为让木船能停泊到自家门口，再出资募工拓宽此河，并在屋旁河之尽头拓成倒潭1只，以便木船调头。此时河面宽7丈，底宽3丈，重载木船可进出自如，已蔚为大河，但仍无河名。

清代康熙二年（1663），江阴县衙拟在澄江门和巫山之间修建马路，勘察丈量到此河时，发现此河无名，于是请大桥镇镇董吴翼之提议起名。吴翼之知道此河乃是张氏祖上所开，后来又是张氏裔孙拓宽，遂提名称“张家港”，并报江阴县衙认定备案。康熙三年（1664）冬，江阴县衙正式批文命名此河为张家港。

由于长江中沙洲积涨迅速，至清代咸丰年间（1851-1861年）大片沙洲与江南古陆接连。清代同治十三年（1874年）至民国，划常通港以北约10平方公里沙地予通州。抗日战争时期，中国共产党曾一度在北部沿江地区建立沙洲县，南部及常熟、江阴两县的边界地区设立虞西县（县治今张家港市塘桥镇妙桥办事处） 。

1949年4月22日，沙洲全境解放。沿袭民国建制，东部属常熟县，西部属江阴县，常通港以北划归常熟县。

1957年11月29日，国务院批准设立沙洲县，以江阴、常熟两县的各一部分行政区域为其行政区域。于1962年正式建立沙洲县。 隶属于江苏省苏州专区。

1958年，江阴县人民政府组织6万民工和千名解放军官兵拓浚张家港，河总长达38.11公里。1968年沙洲县人民政府再次拓浚，张家港遂成为内河6级航道。1970年，苏州专区改为苏州地区，沙洲县属苏州地区。1982年，张家港港正式对外开放。

1983年3月，撤销苏州地区行政专员公署，并于苏州市，实行市管县体制，沙洲县隶属苏州市。

1986年9月16日，国务院批准撤销沙洲县，设立县级张家港市，由苏州市管辖。市人民政府驻杨舍镇