黄土高原基岩构造以六盘山为界分为东西两部分，西部属西域陆块，东部属华北陆块。六盘山以西黄土高原以新生代断陷盆地为构造特征，陇中盆地黄土下伏基岩为直接堆积在古老岩层之上的中新世到上新世早期的甘肃群。甘肃群堆积后，上新世晚期地面抬升，黄河及其支流洮河、祖历河、葫芦河随抬升而下切，基岩地面成为起伏较大的丘陵状。甘肃群为一套含有石膏的紫红色粘土，砂质粘土，砂岩和砂砾岩。其成岩性差，抗蚀力较弱，在地下水浸泡和润滑作用下极易发生重力侵蚀，常形成大型滑坡。六盘山以东的华北陆台由鄂尔多斯台向斜和山西台背斜构成，中间夹以黄河凹陷。鄂尔多斯台向斜和山西台背斜是未经褶皱变动的前震旦纪陆台。 黄土高原
陕北、陇东和晋西的鄂尔多斯台向斜在中生代发展成为一个大型的内陆盆地，当时地势东南高西北低，与今况刚好相反。西北部堆积了厚达1500米完整的中生代地层序列。其中神木，准格尔旗一带广泛出露的中生代灰绿色、黄绿色长石砂岩，当地叫砒砂岩，极易风化侵蚀，是当地及黄河中粗砂的主要来源。燕山运动使鄂尔多斯台向斜抬升，边缘发生断陷，形成汾渭谷地等一系列地堑谷地，到第三纪的中新世末鄂尔多斯台向斜成为准平原。上新世鄂尔多斯高原长城以南的准平原面上广泛堆积了三趾马红土，从三趾马红土的分布和厚度看，上新世时长城以南，渭北北山以北，六盘山与吕梁山之间是一个浅凹形的巨大盆地。地势西北高，东南低，己与今相同。三趾马红土透水性极差，是黄土下覆的主要不透水层，而且三趾马红土容易吸水膨胀，是黄土高原大型滑坡的主要滑移层。上新世晚期到更新世，鄂尔多斯高原边缘如汾渭地堑谷地进一步发展，同时高原整体发生掀斜运动，使地面形成自西北向东南倾斜的斜面，控制着河流的流向。在地貌演变过程中沟谷的发展，谷间地有些形成面积不大的平台，有些成为长条状或椭圆状丘陵，它们是鄂尔多斯高原塬、墚、峁地形的基础。