塞尔柱人原为中亚大草原的乌古斯叶护国(乌古斯Oghuz或古兹Ghuzz)的一支,塞尔柱克原为乌古斯部落联盟的一个酋长,公元970年左右,塞尔柱家族因为土地问题与叶护发生了发生了尖锐的矛盾。不久,塞尔柱家族同叶护分道扬镳,率部离开养吉干,来到锡尔河中游和卡拉套山区。这里靠近波斯萨曼王朝的北部边境,住有许多已经伊斯兰化的乌古斯人和其他突厥人。他们不仅游牧于萨曼王朝边境之外,而且还从萨曼王朝境内得到了大片牧场的使用权,条件是为萨曼王朝服役,保护萨曼王朝的边境不受异教徒的侵犯。
塞尔柱克到来后,改信伊斯兰教逊尼派,凭借个人才能受到该地区广大穆斯林的拥戴,很快就成了这一带穆斯林反对异教同族人的军事领袖,这些乌古斯人遂被称为”塞尔柱人“。此后不久,锡尔河下游发生了反对叶护的抗税斗争,塞尔柱人利用这一有利形势,率众回师毡的,与毡的的抗税者一起赶走了叶护的征税官,夺取了下游重镇毡的(Jand,d“and)及周围地区。
从此,塞尔柱名声大振。塞尔柱人这一名称亦因此而在中亚地区广泛流传开来。后来,阿里汗的儿子沙赫马立克继任叶护,动员各部反将塞尔柱家族及其追随者赶走,重新夺回了毡的,维护了叶护政权和乌古斯人的传统制度。塞尔柱人只得再次南迁至锡尔河中游与咸海附近。
此时,萨曼王朝被突厥伽色尼王朝取代,伽色尼统治者马哈茂德苏丹任命塞尔柱家族世袭贝伊头衔,领有大块牧场的使用权,为王朝守卫北方边疆。成为伽色尼羁縻封臣的塞尔柱人在王朝北方繁衍生息,人口数量逐渐增多,并大批迁至城市之中居住,逐渐具备了不可低估的政治与经济实力。