“华山”一词最早出现于《山海经》和《禹贡》中，即公元前3世纪就已有“华山”之名。而关于“华山”名称的来源有很多种，其中据《水经·渭水注》中记载：“其高五千仞，削成四方，远而望之，又若花状。”又因古时“花”通“华”，故得名“华山”，即“花山”。而在《白虎通义》中，关于华山的记载为：“西方为华山，少阴用事，万物生华，故曰华山。”[39] 另外有一种说法是，“华山”之名起源于山顶的莲花池。[93]
在新石器时期（约1万年至4000年前），曾有原始先民于华山地区生息繁衍，通过陶器和石器度过了仰韶文化与龙山文化时期。在此期间，轩辘黄帝登览华山与诸神相会、尧多次巡狩华山与华封人论多福多寿多男子、舜每年八月巡狩西岳华山。[84]
西周（约前11世纪~前770年）武王十二年，周天子姬发纵马华山之阳，十五年辛巳巡狩方岳；周成王十二年丁酉，成王巡狩朝诸侯于方岳；周桓王十三年，秦伐彭戏氏于华山下。[39] [84]
战国时期，魏于今华阴市西修长涧河西岸长城，存华山朝元洞西北等地遗迹12处（今华阴市城东，自华山北至黄河，有魏修长城，今西岳庙东的东城子东北尚有残迹）；秦简公七年（公元前408年），秦国利用洛河河岸地势修建“堑洛”（即秦长城）；魏惠王十二年至十九年（公元前359年~352年），魏国在渭河洛河交汇处修建长城数百里。[84]
秦昭王（公元前306年~251年）时期，皇帝令工匠施钩梯登上华山，并勒铭，这是现存文献中最早一次登华山的记载，但至唐宋以前并没有真正的登山道路；[93] [84] 秦始皇二十八年（公元前219年），皇帝钦定华山为全国祭祀名山，并有传闻宫女玉姜避秦暴政，遁隐华山石洞，后称其地为“毛女峰”。[84]