金山寺原名泽心寺，自唐朝起称金山寺。宋天禧年间，因皇帝梦游金山寺，又赐名龙游寺。至清朝，康熙皇帝登临金山时，见江天一色，故亲笔赐名“江天禅寺”，江天寺名沿袭至今。虽然金山寺名称多变，但自唐以来，人们都统称其为金山寺。[1]
金山寺始建于东晋时期，建造的具体年份已经无从查起，一说为晋明帝时，一说为晋元帝时。[28] 该寺在长江孤岛上依山而建，时名“泽心寺”。[5] [19]
魏晋南朝，梁武帝崇信佛教，于天监四年（505年）二月十五日亲自在泽心寺依仪修设水陆法会，用以超度水陆一切鬼魂，普济众生，创中国佛教举行水陆法会之始。[20]
唐大中年间时，高僧裴头陀，即法海和尚来到泽心寺，看到殿宇倾颓，杂草丛生，于是在佛前燃指一截，发愿修复古刹。一日，裴头陀在江边挖土得金若干镒（yì），即将黄金上交当时润州刺史李锜，李锜又将此事上奏唐宣宗。唐宣宗感动之余，下令将黄金赐予法海用于修复殿宇，并敕令泽心寺更名为“金山寺”。[10]
宋大中祥符五年（1012年），晚年深信“天书符瑞之说”的宋真宗赵恒于梦中游至金山，后亲书“龙游山”三字于山门。天禧五年（1021年），宋真宗又派内侍江德明给钱三百万，修复寺宇，装饰佛像，并赐下“龙游禅寺”四字。[10]
宋仁宗赵祯即位后，龙游寺僧人上书请复旧名，获准山名依旧，寺名仍为龙游。宋庆历年间，寺遭火灾，佛殿僧舍化为灰烬。住持瑞新募捐重建殿宇，再塑金身。但殿宇还未建完，瑞新因积劳成疾已逝。后怀贤任主寺席，继续修复工作，被修复完善的寺院殿宇规模胜过往昔。[21]
宋元丰五年（1082年）九月，禅宗第十七代、云门宗第五世佛印禅师自庐山归宗寺来到龙游寺任住持。[5] [21] 宋元丰七八年间（1084年～1085年），一位海商在金山设水陆法会。法会由佛印亲自主持，极为壮观，此寺遂以“金山水陆”驰名。[20]
宋政和年间（1114年），宋徽宗赵佶下诏，改佛刹龙游寺为道观神霄玉清宫，去除荐慈塔顶改为郁罗霄台。宋建炎年间，由于金兵不时南犯，而镇江为兵家必争之地，故龙游寺屡遭战火，殿宇破落，香火萧条。直至宋孝宗题诗，建文奎阁，焦山僧人蕴衷来到金山，辛勤募捐重修殿宇，才使宝刹再度重光、慧灯复明。[21]