当时掌控北魏朝政大权的权臣尔朱荣派其堂侄尔朱天光、贺拔岳、侯莫陈悦带兵前往关陇平乱。
可就在他们三人平定关陇叛乱之后不久，权臣尔朱荣便被孝庄帝元子攸所杀，大权尽落入尔朱荣旧部高欢之手，就连尔朱天光也在两年后被高欢的大将斛斯椿抓获，送往洛阳跟其他尔朱荣的兄弟子侄一起处斩。
身为关中大行台的贺拔岳为了对抗高欢，便拉拢了一批武川籍将领和关陇本地的大姓，据关陇之地与高欢分庭抗礼。
可没过几年，贺拔岳便被亲高欢的侯莫陈悦所杀，他的大将宇文泰收拢其他旧部，继续据关陇之地跟高欢对抗。
当时宇文泰的实力不仅远远比不上高欢，甚至还不如南方的萧梁。
宇文泰深知自己和一众将领都是六镇鲜卑之后，与关陇之地的汉人有着很深的的隔阂。
而自秦汉以来，关陇一带便是汉人的渊薮之地，要想在关陇之地有所作为，他们就必须进一步得到关陇那些大姓的认可和支持。
于是，宇文泰便创立了府兵制，由十二大将军和八柱国统之。
这十二大将军和八柱国手握军政大权，显赫一时，他们跟关中的几大汉人士族通过联姻等方式结盟到一起，最终便形成了关陇集团。
【注：十二大将军是元育、元赞、元廓、宇文导、宇文贵、李远、达奚武、侯莫陈顺、杨忠（杨坚之父）、豆卢宁、贺兰祥和王雄。
八柱国是宇文泰、赵贵、元欣、李虎（李渊之祖父）、李弼（李密之曾祖）、于谨、侯莫陈崇和独孤信。】
关陇集团的形成是鲜卑贵族和汉人世家之间的一次完美融合，使得宇文泰一方实力大增，也为之后北周灭北齐和隋灭陈奠定了基础。
可关陇集团的存在也对皇权构成了极大的威胁，尤其是他们的子弟还掌控着天下各个军府的府兵，因此在隋代周之后，杨坚和杨广父子一直在用各种方式打压和削弱关陇集团，使得关陇集团实力大不如前，甚至内部该出现了分化，关中六姓韦裴柳薛杨杜就开始以关中士族自居，不再承认自己是关陇集团的一员。
而关陇集团之所以要集体