主词条：六镇起义、河北起义
宇文泰的先祖源出“炎帝神农氏，为黄帝所灭，子孙遁居朔野”[80] 。后融入鲜卑族中，号宇文部。后为鲜卑慕容皝所灭，其余部乃仕于慕容氏诸燕。及后燕为北魏击败，乃归北魏，不久被徙居武川（今内蒙古自治区武川县），遂世居守之。[1]
北魏正光末年，爆发了六镇起义。起义军的卫可孤，徒党尤盛，攻陷了武川、怀朔。而武川军主贺拔度拔（贺拔岳之父）虽然被起义军抓获，但心中立场依然支持北魏政府，于是，便与其至交好友宇文肱（宇文泰之父）进行合谋，率州里豪杰舆珍、念贤、乙弗库根、尉迟真檀等，招集义勇，袭杀了卫可孤。[65] 在战斗中，宇文泰的大哥宇文颢战死。
饱经战乱的武川镇，刚刚驱逐了卫可孤的起义军，就遭到了铁勒的入侵，武川军主贺拔度拔战死。[65] 于是，宇文肱率领家人去中山避难。
孝昌二年（526年）正月，怀朔镇（今内蒙古固阳县）镇兵鲜于修礼率领北镇流民于定州左人城（今河北省唐县）起义，宇文泰一家也参加了起义队伍。但在前往左人城的途中，被北魏官军击败，宇文泰之父宇文肱以及宇文泰的二哥宇文连阵亡。宇文泰与三哥宇文洛生幸免于难，逃入鲜于修礼军中。鲜于修礼死后，宇文泰又加入到了葛荣军中，被任为将帅。葛荣失败后，宇文泰与其三哥宇文洛生归降尔朱荣。宇文洛生人品端正，体恤士兵，声望很高。尔朱荣听闻他的雅名，对他十分嫉妒猜疑。于是尔朱荣故意捏造罪名，杀害了宇文洛生。[79] 因为宇文泰慷慨陈述，才释去尔朱荣对他的戒心，免遭其难。[2] 由于宇文泰与尔朱荣的部将贺拔岳有旧，贺拔岳亦是武川军人，与宇文泰之父宇文肱关系甚密，因此，宇文泰被收编在贺拔岳部下。[3][4] 六镇起义形势