柳林县历史悠久，县境薛村镇高红村出土的仰韶文化遗址，表明早在新石器时代，就有人类在此繁衍生息。
柳林县春秋时为晋国领地，战国属赵之边邑离石。《史记·赵世家》载：“武灵王二十三年秦拔我蔺”。赵国之蔺邑在今孟门镇。秦时属太原郡。[15]
汉武帝元朔三年（前126年），封其代共王子熹为蔺侯（古治在今之孟门镇）、忠为隰城侯（治所遗址在今之穆村镇与杨家坪之间），绾为离石侯。时今县境域分属离石、蔺、隰城等侯国。元朔四年（前125年），置西河郡，各侯国皆属之。东汉建安十八年（213年），废西河郡，其地并入太原郡。
三国魏黄初二年（221年），复置西河郡，西晋时西河郡改为西河国，今县境域分属西河国辖下的离石、隰城、中阳三县。
北朝时期，北齐置西汾州，北周大象元年（579年），西汾州下设定胡郡，兼置定胡县，郡县治所皆在今孟门镇，柳林县今之境域大部分属之。后西汾州改称石州。
隋大业元年（605年），石州改为离石郡。
唐武德元年（618年），复称石州。武德三年（620年），置西定州，治所在今之孟门镇。贞观二年（628年），废西定州，改定胡县为孟门县，县属石州。贞观七年（633年），废孟门县，置孟门镇。贞观八年（634年），废镇，复置定胡县。
北宋时期，柳林县今境域先属石州治下的离石、定胡等县，后期部分地区隶属晋宁军。
金时，县境大部属石州治下的孟门县，县治仍在今之孟门镇。
元朝初年，孟门、方山二县并入离石，今县境分属离石、宁乡二县。
明初，离石县并入石州，隆庆元年（1567年），石州改称永宁州，今县境属之。明代后期，今县境属山西承宣布政司太原府治下之永宁州。