在市内发现了多处旧石器时代的遗迹，总共有25处。在都筑区的花见山遗迹发现大量绳文时代的遗物，弥生时代的遗迹较少。稻荷前古坟群是市内最大的古坟。在6世纪的时候，当时是武藏国豪族居住的地区。7世纪在相模国设置橘树郡、久良岐郡、都筑郡及镰仓郡。在奈良时代及平安时代得到发展，不少关东的武家在此驻集。横滨这个名字首次在1442年（嘉吉2年）首次被记载，推断为平子氏家臣的市川季氏与比留间范，前往石河宝金刚院，曾在横滨村药师堂免田畠进行捐献的记录。
横滨的起源在文献记载上可以追溯到11世纪。据说横滨出身于桓武平氏，由平良文子孙的一支---平子氏统治。这一统治一直持续到16世纪。
到了12世纪的镰仓时代，横滨地区得到了进一步地开发，北条氏在金泽建造了称名寺和金泽文库，佐佐木泰纲则在小机开垦了水田。
其后，在江户幕府的统治下，大部分是旗本领或幕府直辖的天领，但作为大名领，有金泽的六浦藩。
1601年，继神奈川、保土之谷之后，1604年户冢成为东海道的驿站，到了19世纪初期，人口得以增加，神奈川已与城下町小田原并驾齐驱了。
在江户时代，江户幕府发展东海道的宿场。著名的宿场包括神奈川宿、程谷宿（保士谷宿）以及户冢宿。特别是神奈川宿靠近东京湾的要冲而更为繁荣。在江户时代的横滨村是一个住户家庭不到100个的小渔村。1854年（安政元年）与幕府没有邦交的美国马休·佩里率领黑船来到日本，在六浦藩小柴村强行抛锚。幕府派使者交涉，双方在横滨村进行和谈。双方签署了神奈川条约，四年后签署日美修好通商条约，条约内容是将神奈川港开放，成为横滨开发的序幕。
1859年7月1日（安政6年6月2日），横滨港正式对外启用，横滨市将6月2日定为开港纪念日。横滨成为了对外开放的门户，发展成富有外地特色的城市。在税关以南是外国人居住区，税关以北是日本人居住地区。横滨港成为了生丝贸易港、商业港、旅客港以及是工业港。
1889年日本实行市制，横滨市亦正式设立。当时面积只围绕横滨港的5.4平方公里（经过多次扩张及填海后，现时达437.38平方公里）。其后发展为关内地区的市政及商业中心。
1923年关东大地震，横滨市是重灾区之一，所有外国使馆在这次地震中倒下。在地震后新兴建山下公园以及横滨三塔，1929年横滨市大致回复原有的面貌。[2]