在古希腊，化学还没有从自然哲学中分离的时代，原子论者对化学键有了最原始的设想，恩培多克勒（Empedocles）认为，世界由“气、水、土、火”这四种元素组成，这四种元素在“爱”和“恨”的作用下分裂并以新的排列重新组合时，物质就发生了质的变化。这种作用力可以被看成是最早的化学键思想。
随后，原子论者德谟克利特设想，原子与原子间，存在着一种“钩子”，也可以说是粗糙的表面，以致它们在相互碰撞时黏在一起，构成了一个稳定的聚集体。德谟克利特对化学键的设想相比于之前的自然哲学家，是更加先进的，他剔除了此类设想中的唯心主义因素。
中世纪的J.R.格劳伯则提出了物质同类相亲、异类相斥的思想。其后还出现了关于物质结合的亲和力说，认为物质的微粒具有亲和力，由此互相吸引而结合在一起。总之，人们关于化学键朦胧的认识，启发了后来的化学家。
18世纪，燃素（phlogiston）的概念进入了化学，并为恩斯特·施塔尔（Ernst Stahl）、亨利·卡文迪许（Henry Cavendish）和约瑟夫·普利斯特里（Joseph Priestley）等先进的化学家所接受。当时，牛顿力学已经提出，他们希望把原子间的作用力和牛顿力学结合起来，给出经典物理学的解释，但限于当时的条件，这无疑是无法完成的。
1916年，德国化学家沃尔特·柯塞尔（Walther Kossel）在考察大量事实后得出结论：任何元素的原子都要使最外层满足8电子稳定结构，但科塞尔只解释了离子化合物的形成过程，并没有解释共价键的形成。[1]
1919年，化学家欧文·朗缪尔首次使用“共价”来描述原子间的成键过程[2] “（原文）we shall denote by the termcovalencethe number of pairs of electrons which a given atom shares with its neighbors”[3] （我们应该用“共价”一词表示原子间通过共用电子对形成的作用力）。
1922年，尼尔斯·玻尔（N.Bohr）从量子化的角度重新审视了卢瑟福的核式模型，这为化学家对化学键的认识，提供了全新的平台，他认为电子应该位于确定的轨道之中，并且能够在不同轨道之间跃迁，定态跃迁可以很好的解释氢原子光谱的各个谱线。[4]