孝昌二年（526年）正月， 懷朔鎮（今內蒙古固陽縣）鎮兵鮮于修禮率領北鎮流民于定州左人城（今河北唐縣西）起義， 宇文泰一家亦參加了起義隊伍。 但在前往左人城途中， 被政府軍擊敗， 宇文肱及其長子宇文顥、次子宇文連陣亡， 宇文泰與其兄宇文洛生倖免於難， 入鮮于修禮軍中。 鮮于修禮死後， 宇文泰又加入葛榮軍中， 被任為將帥。 葛榮失敗後， 爾朱榮畏懼宇文兄弟有異心， 於是網羅其他罪名， 誅殺宇文洛生。 因為宇文泰慷慨陳述， 才釋去爾朱榮對他的戒心， 免遭其難。 [2]由於宇文泰與爾朱榮的部將賀拔嶽有舊， 賀拔岳亦是武川（今內蒙古武川縣）軍人， 與宇文泰之父宇文肱關係甚密，
六鎮起義形勢
永安三年（530年）春，
爾朱榮以爾朱天光為主帥，
賀拔岳和侯莫陳悅為副帥，
率兵前往鎮壓關隴起義軍。
宇文泰以步兵校尉的身份隨賀拔岳入關，
因鎮壓起義軍有功累遷至征西將軍、金紫光祿大夫，
增邑三百戶，
加直閣將軍、行原州事。
[5]在鎮壓關隴起義的過程中，
宇文泰乘機擴大自己的影響，
對吏民施以恩惠，
羸得了不少人的好感。
是年九月，
孝莊帝元子攸誅殺爾朱榮，
但大權仍操在握有大軍的爾朱氏手中。
[4]
賀拔幹將
太昌元年（532年）， 高歡攻滅爾朱氏， 擁魏孝武帝元修即位， 自總大政。 他任命賀拔岳為關西大行台， 賀拔岳任命宇文泰為行台左丞， 領府司馬， 加散騎常侍。 事無巨細， 都委任於他。 高歡在朝中位居大丞相， 秉掌大權。 孝武帝元修密與賀拔嶽相結， 想牽制高歡。 時為府司馬的宇文泰自請出使晉陽（今山西太原）， 來觀察高歡的為人。 宇文泰到了晉陽之後， 與高歡口答應對， 敏捷雄辯， 高歡欲留宇文泰為己用， 宇文泰固辭而返。