秦朝时期，今磴口县地区属九原郡临河县辖区，亦是新秦地（自高阙向西南筑长城至鸡鹿塞南）。
西汉初期，为匈奴统辖地。元朔二年（前127年），朔方郡（治所朔方，在今鄂尔多斯市杭锦旗东北，亦有记载在今县陶升井麻弥图古城），其所领10县中治所在今磴口县境的就有：窳浑县（治在今沙金套海苏木包日浩特嘎查）、临戎县（前124年建，治在今补隆淖乡沙河古城）、三封县（前126年建，治在今哈腾套海苏木7千米处陶升古城）等。甘露三年（前51年），匈奴呼韩邪单于与汉朝议和后，汉遣宫兵护行，送单于出朔方鸡鹿塞（在今沙金套海苏木哈隆格乃口西沿上的石城）。有记载，在百年时间内，这里曾是朔方的繁荣而重要的地区。
东汉时期，朔方郡治所临戎（今磴口县补隆淖乡境内），仍有临戎、三封县及鸡鹿塞在今县境内，隶属并州刺史部。东汉末年至西晋时期，为河西鲜卑、西部鲜卑政权所辖地。[12]
东晋十六国时期，今磴口县境先后为后赵、前秦、后秦所置朔方郡以及夏统辖地。
南北朝时期，今县境基本上属北魏沃野镇和夏州辖境。
北周时期，属永丰镇（治所今临河县北境）辖区。
隋朝初期，为丰州辖地。大业元年（605年），属五原郡永丰县辖地。
唐朝初期，仍属丰州，隶关内道。总章二年（669年），今县境巴彦高勒镇及沿黄河部分地属丰州永丰县，西部和西北部大部分地区属呼延都督府管辖区。开元二十九年（741年），属丰州永丰县及天德军管辖。元和十五年（820年），属丰州和丰州都防御使管辖。
五代时期，今县境基本属契丹辽政权统辖地。