塞尔柱人原为中亚大草原的乌古斯叶护国（乌古斯Oghuz或古兹Ghuzz）的一支，塞尔柱克原为乌古斯部落联盟的一个酋长，公元970年左右，塞尔柱家族因为土地问题与叶护发生了尖锐的矛盾。不久，塞尔柱家族同叶护分道扬镳，率部离开养吉干，来到锡尔河中游和卡拉套山区。这里靠近波斯萨曼王朝的北部边境，住有许多已经伊斯兰化的乌古斯人和其他突厥人。他们不仅游牧于萨曼王朝边境之外，而且还从萨曼王朝境内得到了大片牧场的使用权，条件是为萨曼王朝服役，保护萨曼王朝的边境不受异教徒的侵犯。
塞尔柱克到来后，改信伊斯兰教逊尼派，凭借个人才能受到该地区广大穆斯林的拥戴，很快就成了这一带穆斯林反对异教同族人的军事领袖，这些乌古斯人遂被称为”塞尔柱人“。此后不久，锡尔河下游发生了反对叶护的抗税斗争，塞尔柱人利用这一有利形势，率众回师毡的，与毡的的抗税者一起赶走了叶护的征税官，夺取了下游重镇毡的（Jand，d“and）及周围地区。
从此，塞尔柱名声大振。塞尔柱人这一名称亦因此而在中亚地区广泛流传开来。后来，阿里汗的儿子沙赫马立克继任叶护，动员各部反将塞尔柱家族及其追随者赶走，重新夺回了毡的，维护了叶护政权和乌古斯人的传统制度。塞尔柱人只得再次南迁至锡尔河中游与咸海附近。
此时，萨曼王朝被突厥伽色尼王朝取代，伽色尼统治者马哈茂德苏丹任命塞尔柱家族世袭贝伊头衔，领有大块牧场的使用权，为王朝守卫北方边疆。成为伽色尼羁縻封臣的塞尔柱人在王朝北方繁衍生息，人口数量逐渐增多，并大批迁至城市之中居住，逐渐具备了不可低估的政治与经济实力。