赣州形成行政区的历史悠久。三国·吴嘉禾五年（236年），设置相当于市一级的行政机构——庐陵南部都尉。宋代分设南安、赣州两个政区，简称“南赣”。又因地处赣江上游、江西南部，并于清康熙年间和民国初先后置分巡赣南道和赣南道，亦俗称“赣南”。[6]
据《赣州市志》记载，中华人民共和国成立以来，考古专家在赣南地区的于都、定南、寻乌等地陆续发掘出不少古文化遗址，这表明早在约5000年前的新石器时代晚期，已有先民在赣南这片土地上繁衍生息。[116]
先秦时期，赣南是百越民族的聚居地。已在赣州城郊发现了6处商周时期百越民族的居住遗住。对位于南郊沙石镇的竹园下遗址进行过考古发掘，遗址除出土了大量的陶片及石器外，还出土了完整的陶盆、陶罐、陶簋、陶纺轮等。同时，还发掘出了6座土坑墓和100多个柱洞，柱洞是当时干栏式建筑的基址，可复原成6间大小不等的房子，这是一处十分典型的商周时期百越民族的村落遗址。[115][116]
秦统一六国后的前221年，分天下为36郡，赣南属九江郡。前214年，秦发大军50万分五军南下五岭，其中一军驻守庾岭界，设立南壄县，隶属九江郡。这是赣州境内建立政权之始。秦汉时期，因地控闽粤，形势险要，朝廷曾派重兵驻屯赣南，自此开启了当地土著居民与外地迁民杂居的生活形态。[116]
汉高祖元年（前206年），南壄属楚。汉高祖四年（前203年），改九江郡为淮南国，南壄县隶属之。汉高祖五年（前202年），汉灭楚，赣州开始被西汉王朝所管辖。汉高祖六年（前201年），置豫章郡，治南昌县，辖18县，其中赣南3县隶之：南壄县（约辖今南康、大余、上犹、崇义、信丰、龙南、定南、全南等地）、赣县（约辖今章贡区、赣县、兴国等地）、雩都县（约辖今于都、宁都、石城、瑞金、会昌、安远、寻乌等地）。其中赣县、雩都县为新增设县。