吉水县早在5000多年前的新石器时代就有先民在境内聚居。夏时属扬州，位于扬州地域之西境。商末后为吴地，战国时归楚。
秦始皇（前221年）统一全国后，属九江郡庐陵县。[4]
西汉高祖元年（前206年），属九江王国庐陵县；高祖四年（前203年），改九江王国为淮南王国，吉水属淮南王国庐陵县；高祖六年（前201年），从淮南王国中析置豫章郡，庐陵县属之。[4]
新朝始建国元年（9年），改豫章郡为九江郡，改庐陵县为恒亭县，吉水属之。[4]
东汉建武元年（25年），郡县名称和隶属关系皆复旧；永元八年（96年），析新淦、庐陵两县之间地置石阳县（县治设今醪桥镇固洲村，为吉水县前身），属豫章郡；建安四年（199年），析豫章郡置庐陵郡，石阳县属之。[4]
吴国宝鼎二年（267年），析庐陵郡之石阳、阳城地置吉阳县。
西晋太康元年（280年），庐陵郡治从西昌（今泰和县城西）徙石阳（今醪桥镇固洲村一带）；元康元年（291年），吉水属江州庐陵郡之石阳、吉阳县。
东晋咸康八年（342年），庐陵郡治从石阳县城徙于今吉安市区孔家湾，郡县隶辖如故。
隋朝开皇十年（590年），废庐陵诸郡，置吉州，改石阳县为庐陵县；开皇十一年（591年），吉阳县并入庐陵县；大业三年（607年），改吉州为庐陵郡，郡治再徙石阳故城；大业末（615年至617年），分庐陵县水东的顺化（又作淳化、舜化、纯化）、文昌（又作永昌）、折桂、中鹄、仁寿、兴平、明德、永丰、龙云（含报恩镇）、云盖、迁恩（又作迁莺）等11乡置吉水县，县治设今文峰镇，属庐陵郡。
唐朝武德五年（622年），庐陵郡复改吉州，吉水属之；武德八年（625年），改吉州为庐陵郡；显庆二年（657年），改庐陵郡为吉州；永淳元年（682年），州治从石阳故城迁今吉安市区道署坪一带；天宝元年（742年），改吉州为庐陵郡，郡县隶辖未变；天宝十四年（755年），吉水县改为吉水镇（镇治设今城南）；乾元元年（758年），庐陵郡改为吉州。
南吴天祐七年（910年，用唐年号），杨吴占领吉州，沿承唐制。升吉水镇为吉水县，以新淦为都制置使治所，领新喻、丰城、吉水3县，欲遂图虔州，旋移治吉水，寻废；南唐升元二年（938年），罢新淦都制置使，吉水由县改场，还隶吉州；保大八年（950年），吉水由场复县，仍隶吉州。