汉武帝时张骞第一次通西域，曾取道柴达木盆地返回，因这里是羌人活动区，故史称“羌中道”。
西晋末年，辽东鲜卑吐谷浑部迁入甘青地区，其后渐渐强大，以青海为其活动中心。
至南北朝时期，在广大羌人的支持下，实现了对长期分散“无相长一”的诸羌的统一，建立起以鲜卑人为中心与诸羌领袖的联合政权吐谷浑国。格尔木地区成为吐谷浑国属地。
隋炀帝大业五年（609年），隋灭吐谷浑国，在吐谷浑故地设置西海、河源、鄯善、且末四郡，其中西海郡治吐浴浑故都伏俟城（青海湖西15里恰卜恰古城），郡下设宣德、威定二县，威定县治约在今都兰县境，从此格尔木地区正式纳入中原统一王朝的版图，隋亡，吐谷浑便复其故地。 地理位置
唐初，吐蕃王国在西藏崛起，唐高宗龙朔三年（663年），吐蕃灭吐谷浑国，占吐谷浑故地。9世纪中叶吐蕃王国分裂后，格尔木地区如同青藏高原的其他地方一样，处在部落割据局面中。
元朝于13世纪中叶开始直接统辖整个藏区，结束了青藏高原400年的分裂割据局面。元顺帝时（1333—1368年），封蒙古贵族卜烟帖木儿为宁王，率蒙古兵士镇守柴达木地方。
明朝于基地设立定安、阿端、曲先、罕东四卫。史称“西宁塞外四卫”。格尔木地区曾属于四卫中曲先卫活动范围。明正德元年（1506年），东蒙古进入柴达木地区，残破四卫，役属诸番。16世纪中叶，蒙古土默特部首领俺答汗率数万人进入青海地区，约半个多世纪后，蒙古喀尔喀部占据青海。明崇祯九年（1636年）秋，卫拉特蒙古四部之一的和硕特部在其首领固始汗的率领下自今新疆伊犁进入青海，几年后略定卫藏，统治了全国藏区。
清雍正三年（1725年），清朝开始直接统治蒙藏地区，将青海各部划定游牧地界，仿内蒙札萨克制度，统一编为二十九旗，分左、右翼两盟。