于今滕境置滕县、薛县。滕，作为县名始见于史册。
西汉
初，高祖析小邾置蕃县。隶属豫州刺史部鲁国。汉武帝时改滕县为公邱县。 滕州市
东汉
公邱县属豫州刺史部沛国。
建安三年（198年），分东海郡，于昌虑县置昌虑郡，不久又改为昌虑县，其他县照旧。
三国
滕境各县属魏，魏沿袭秦制。
西晋
仍袭汉制。蕃县、薛县、公邱县都属豫州部鲁郡。
元康年间，将蕃县、薛县改属徐州部彭城国，将东海郡的昌虑县改为属徐州部兰陵郡。
东晋
义熙五年（409年），晋克复青、徐，撤销薛县、戚县，将其地划入蕃县，属兖州部。
南北朝
北魏太安三年（457年），撤公邱县，置阳平县属兖州部鲁郡。
孝昌二年（526年），于徐州部始置蕃郡，领蕃城县（即蕃县）、永兴县（今薛城区临城镇）、永福县（今江苏省徐州市贾汪区崮岘）3县，郡治蕃城。
东魏元象二年（539年），撤销蕃郡，并入彭城郡。
武定五年（547年），又置蕃郡。复置薛县。
开皇六年（586年），改蕃县为滕县。
开皇十六年（596年），升滕县为滕郡，郡治滕县；不久又将滕郡改为滕县，县治在蕃县故城，属徐州部彭城郡。
滕县属河南道徐州。