济南因地处古四渎之一的"济水"之南而得名。公元前164年设立济南国。1929年7月析历城县城和城外商埠及四郊设济南市。[74]
“泺”，指泺水，发源于趵突泉。甲骨文中就已有泺字，是济南见于记载最早的地名，那时的济南被称为“泺邑”。战国时期改称“历下邑”，汉代初年称为“历城县”，这两个名字皆因城南历山而得名。[142]
据考古发掘资料，远在9000年前的新石器时代早期，已有先民在此繁衍生息。距今4000～4500年前以磨光黑陶为特征的“龙山文化”，系因1928年首次发现于济南东郊龙山镇而被命名。夏代，龙山镇城子崖一带建有较大规模的城市。商周时代，济南为古谭国（东方方国，都城在今城子崖、平陵城一带）地。春秋战国时代，济南属齐国，称“泺”“鞍”“历下”等邑，为齐国西南边陲重镇。
秦代，地属济北郡（郡治博阳，即今泰安）。西汉始置济南郡，郡治东平陵（今济南市章丘平陵城）。汉文帝十六年（前164年），设济南国，首府东平陵。前154年，废济南国，复置济南郡。汉武帝时，济南郡辖东平陵、历城等14县，属青州刺史部。东汉建武十七年（41年），济南郡复称济南国，辖14县，后改辖10县。[75]
魏晋南北朝时期，朝代屡屡更替，济南先后为魏、西晋、后赵、前燕、前秦、后燕、南燕、东晋、刘宋、北魏、东魏、北齐、北周辖境，置郡置国，变化频繁。其间，济南郡治于西晋永嘉末年（313年前）从平陵（即东平陵）迁至历城。从此，今济南市区成为历代郡国、州府的行政中心。刘宋元嘉九年（432年）在济南郡侨置冀州，济南为州、郡两级治所。北魏皇兴三年（469年），改侨冀州为齐州，辖济南郡、东魏郡、太原郡等6郡35县。[75]