法兰克福的历史可以上溯到公元元年前后，那时莱茵河和多瑙河是罗马帝国的北方边界，但两河并不相连，其间无险可守，因此罗马人修筑了连接两河的长城。这座长城固然不能与中国的长城同日而语，但也连绵数百里，从法兰克福附近经过。于是人们在这里设置了驻军营地，这一带成为边境要塞。
随着罗马帝国的崩溃，这时军营圮毁，日渐荒芜，几乎被人遗忘，直到8世纪才再度兴起。
传说，一天拂晓，漫天大雾，查理大帝打了败仗，逃到美因河边，找不到向导，无法渡河。危急之中看见一只母鹿，朝水边走来，他注意看那鹿，果然，这只鹿涉水过河了，大军也随之过河，转危为安。为了纪念这件事，查理大帝下令在当地建筑一座城市，取名法兰克福，意思是法兰克人（日耳曼民族中的一支）的渡口。
公元794年法兰克福作为查理大帝的行都首次载入史册。此后法兰克福一直是德意志的重要政治舞台。神圣罗马帝国时期，皇帝由势力雄厚的诸侯即选帝侯选举。1152年，选帝侯们首次在法兰克福聚会，选举绰号“巴巴罗萨”（意为红胡子）腓特烈一世为帝。1240年，根据皇帝腓特烈二世的特许状，第一次法兰克福商业博览会举办。1311年，法兰克福正式拥有城市自治权。1356年卡尔四世颁布金玺诏书，正式规定，选皇帝在法兰克福举行。1330年起，法兰克福商业博览会成为国际性商业博览会。1372年，法兰克福市被定为帝国自由城市。从1562年起，法兰克福又取代亚琛，成为皇帝加冕盛典举行地，前后有10位皇帝在这里加冕，登上皇帝宝座。神圣罗马帝国于1806年正式告终，该年法兰克福成为莱茵联邦政府的驻地。从1816年到1866年，法兰克福又成为德意志邦联议会所在地。1848年在席卷欧洲大陆的革命风暴中，德意志各邦组成德意志国民议会，在法兰克福举行会议讨论德意志的统一问题，是为德国统一前奏。1866年法兰克福并入普鲁士。
自13世纪以来，法兰克福一直是一个繁荣的商业城市，16世纪后又成为交易所及银行中心。德国统一后，这里工业迅速发展，化学工业尤为突出。德国三大化学工业公司之一的赫希斯特（HoechstAG）公司就是在法兰克福起家的。