西汉元鼎六年（公元前111年）开始设置鬱（郁）林郡，1958年更名为玉林，寓意“岭南美玉、胜景如林”。[33]
先秦时期，该地处在原始社会末期，是百越民族分布的地区之一，居住着西瓯、骆越等部族。战国后期，出现西瓯君和骆侯，瓯骆人开始出现阶级分化。
秦始皇统一岭南后，在岭南设置南海郡、桂林郡和象郡。市境开始政权建制，隶属象郡、桂林郡。秦二世时期继任南海尉秦将赵佗兼并桂林郡、象郡，辖据岭南。汉初建立南越国，市境隶属南越国。 共6张 玉林市地图
西汉元鼎六年（前111年），始置郁林郡，郡治布山县（今贵港市）。汉武帝元鼎五年（前112年），汉武帝平定南越，次年在岭南设置南海、苍梧、郁林、合浦、交趾、九真、日南、珠崖、儋耳9郡，其中在今广西地区境内有苍梧、郁林、合浦3郡（当时属于交州）。
王莽新朝（9—23年），改郁林郡为郁平郡（后复置）。
汉元封五年（前106年），属交趾刺史部。建安八年（203年），属交州刺史部。
东汉末，交趾部改为交州，今广东包括交州辖下的整个南海郡，还包括苍梧郡、合浦郡、荆州贵阳郡和扬州豫章郡的一部。建安二十二年（217年），步骘把交州州治从广信东迁番禺。
三国吴黄武五年（226年），隶属广州，俄时复旧。元兴元年（264年），复属广州，晋至南朝宋齐因之，梁属定州，又改属南定州。大兴元年（318年），析地置晋兴郡。
隋开皇年间（581—600年），晋兴郡废。大业年间（605—618年），初其地方仍属郁林郡，统属广州，隋领郁林、郁平、领方、阿林、石南、桂平、马度、安成、宁浦、乐山、岭山、宣化12县，后废。