尔朱世隆带着魏廷的诏书刚走到晋阳，便与尔朱荣相遇。兄弟俩叙谈了一会儿，尔朱世隆便将诏书交给堂哥。尔朱荣看完后，对尔朱世隆说：“此事我不便依你，你也不用回朝廷了。”尔朱世隆忙说：“现在朝廷十分怀疑大哥，所以派我来送诏书。如果你今天把我留在军中，反而会让朝廷的猜疑得到证实，那大哥不就失去了绝好的战机？还请大哥三思啊！”尔朱容随即点头应允。尔朱世隆离开后，尔朱容便与元天穆商议，二人都认为元勰的三儿子元子攸最适合继承帝位。尔朱荣当即派侄子尔朱天光去见长乐王元子攸，转达自己的意思。得到元子攸的肯定答复后，尔朱荣又不免疑惑起来。从前北魏册立皇后时，首先要铸造铜像，如果铜像铸成，那名女子才能被册立为皇后，否则就被视为不祥，立即取消册立资格。尔朱荣于是援例卜吉，也为魏主元弘的子孙们铸造铜像，唯独长乐王的铜像得以铸成。尔朱容随即在晋阳起事。
尔朱世隆回京后，模糊复旨。当听说尔朱荣率兵南下时，他忙潜逃出京，投靠尔朱荣。胡太后得到军报后，十分惶恐，立即召集王公大臣入宫商议。众人都对胡太后有意见，所以没有一个出谋献计。后来，徐纥站出来说：“尔朱荣只是一个小小的胡人，怎么敢向朝廷宣战？只派留京的官兵出城迎战，就够他们忙乱一阵了。现在我们只需要扼守险要，以逸待劳。臣以为他们远道而来，人马疲惫，不出几个月，定能剿灭。”胡太后于是任命黄门侍郎李神轨为大都督，令他率部众抵御尔朱荣；又派将领郑先护、郑季明驻守河桥，武卫将军费穆屯兵小平津。
尔朱荣行军到河内，派使者到洛阳，密迎长乐王元子攸。元子攸立即与兄长彭城王元劭、弟弟霸城公元子正，偷偷从高清渡河，到河阳与尔朱荣会合。将士们见到元子攸，争呼万岁。元子攸当即率领尔朱荣渡河南行，并在途中称帝，接受官吏的朝拜。随即晋封兄长元劭为无上王，弟弟元子正为始平王；又封尔朱荣为侍中，都督中外各军事，兼任尚书令、领军将军，封为太原王。当即传诏远近，令附近的官吏归顺。
郑先护向来敬重元子攸，他当即与郑季明开城迎进尔朱荣，费穆也向元子攸上奏称臣。李神轨狼狈地逃回京城。徐纥得到消息，料知大势已去，也无暇顾及胡太后，竟带着眷属连夜逃往兖州去了。郑俨也逃回乡里。胡太后失去两位宠臣，就好像斩去手脚一般，急得不知所措。踌躇许久，才想出一个出家的法子。一剪刀下去，青丝掉落一地。胡太后以为做了尼姑，就可以免罪。哪知尔朱荣仍然不肯放过她，一面召集百官出城迎接新主，一面派骑士入宫，把胡太后及幼主掳到河阴。百官奉召后，急急忙忙捧着御玺，准备好仪仗，赶到河桥恭迎新主元子攸。胡太后见了尔朱荣，还边哭边诉说委屈，说自己被宠臣误导，才做出错事。幼主只知道哭，惹得尔朱荣拂衣起座，让身边的侍卫把胡太后和幼主拖出去，丢入河里。
费穆进来悄悄对尔朱荣说：“大人的士兵不到一万，却长驱直入洛阳，不费一兵一卒却迅速取得成功，这真让我惊叹呀！但是，眼下京中有数百名文武官吏，士兵更是不计其数，如果被他们知道你的虚实，他们一定会作乱。今天如果不大力惩处那些权贵以及他们的亲党，我担心将来大人北还的时候，还没过太行山，京城就会有变呀！”尔朱荣连连点头，转告亲将慕容绍宗，慕容绍宗劝慰他说：“胡太后失德，奸臣当道，惹得民怨四起，大人才得以兴兵问罪，肃清宫廷。如果不分忠佞，无故屠杀，定会让人大失所望，到时局势反而对大人不利，所以还请大人三思！”
尔朱荣听不进去，以新主元子攸的名义召集文武百官，令将士们围剿；然后派数十名将士入宫，砍杀彭城王元劭、始平王元子正，逼迫新主元子攸徙居河桥，把他软禁起来。
元子攸忧愤交加，派人转告尔朱荣说：“帝王更替，盛衰无常。如今四方瓦解，将军投袂而起，肃清宫禁，这是天意，原非人力所能及！我生不逢时，遭遇衰乱，本不敢妄自觊觎帝位，只因受将军所逼，勉强继承大统。如果现在上天让将军即位，那还请将军早日登上帝位；如果将军谦让皇位，那就请将军为北魏的社稷着想，挑选贤能的君主即位，更要谨慎挑选辅政大臣。我只求能保全一条性命，还请将军不要多疑！”尔朱荣听了这话，又与部将商量。都督高欢劝他早日称帝。可是，将军贺拔岳却劝他说：“将军之所以发起义师，就是想铲除奸臣，荡平逆贼。现在逆贼未平，你就想继承帝位，我担心这样做不仅请不来福运，还有可能引发祸乱。”尔朱荣忐忑不安，于是为自己铸造铜像，铸造了四次，都没有成功。他又让功曹参军刘灵助占卜，结果刘灵助也说不吉利。尔朱荣沉吟良久，才对刘灵助说：“我如果不行，那元天穆怎么样？”刘灵助应声说：“元天穆也不适合登上帝位，只有长乐王的卦象大吉。”尔朱荣向来信任刘灵助。这下不由得惭愧、畏惧起来，从傍晚到半夜，尔朱荣不吃不睡，只是在室中绕行，还一边自言自语说：“尔朱荣，你怎么就铸成这样的大错呢？看来只好找一个替罪羔羊，杀死他向朝廷谢罪了！”贺拔岳趁机向他提议杀掉高欢。尔朱荣被他这么一激，便真的打算杀掉高欢，最后经身边的人劝解，他才作罢。
半夜四更的时候，尔朱荣独自骑马出营，到河阳拜谒元子攸，叩头请罪。元子攸不得不抚慰他几句，扶他起来。尔朱荣立即在前面带路，把元子攸引入营中。第二天一早，尔朱荣便打算奉请元子攸入都即位。部将提议说，不如将都城迁到北方，这样可以避免因上次滥杀朝士而引来的报复。尔朱荣又疑惑起来，武卫将军汎礼从旁力谏，他才打消迁都的念头。于是安排仪仗，簇拥元子攸入洛阳城，登上皇位，颁诏大赦，改元建义。
京中的官吏已死了大半，剩下的几个闲散的官吏也都逃避一空，不敢再做官。空旷的京中既没有侍卫值守，也没有官吏当班，只有散骑常侍山伟赶到宫殿，叩首高呼万岁。尔朱荣瞧着这情形，也觉得凄寂得很，于是上奏恳请为那些已故的王公大臣加官晋爵。
魏主元子攸当然允议，追尊父亲彭城王元勰为文穆皇帝，母亲李氏为文穆皇后，将父母的灵牌迁到太庙，号为肃祖；随后尊皇兄元劭为孝宣皇帝，皇嫂李氏为文恭皇后﹔并找出藏匿在百姓家的侄子元韶，令他承袭彭城王的爵位。其他人如皇叔高阳王元雍、皇弟始平王元子正等，都追赐他们谥号。紧接着又采取了一些招抚旧臣、安抚百姓的措施，京城的吏民这才安定下来，旧臣也相继回朝任职。尔朱荣的部下因拥护有功，都得以升官。
尔朱荣的将士们仍怕遭到报复，都劝尔朱荣请魏主迁都。尔朱荣又动摇起来，再次向魏主元子攸提起迁都的事情。只有都官尚书元谌一人站出来反对，与尔朱荣力争。尔朱荣怒斥道：“迁都之事与你无关，你争什么呢？你没听说过河阴的事情吗？”元谌朗声说：“国事就是家事。你想用河阴的屠戮恐吓我吗？让你失望了，我不过是宗室里的普通人，活在世上没有什么价值，离开人世也没有什么损失，就算今天肝脑涂地，我也不怕！”这话说完，气得尔朱荣怒火冲天，恨不得立即将元谌处死。多亏尔朱世隆从旁大力劝阻，元谌才保住一条性命。满朝文武大臣无不惊惧，唯独元谌神色不变，慢慢退了出去。
过了几天，魏主元子攸带着尔朱荣登高俯瞰宫殿。见宫阙规模宏大，树木也都阴郁成行。尔朱荣禁不住叹道：“我前天真愚昧，竟然有北迁的想法，现在我总算有些明白元谌为什么死也不愿迁都了。”魏主随即又抚慰他，尔朱荣从此绝口不谈迁都。只是郑俨、徐纥、李神轨三人还没有捉获，魏主檄令地方官加大搜捕的力度。郑俨逃回乡里，与堂兄荥阳太守仲明一起起兵，后来被部下杀死了。徐纥逃到泰山郡，投靠太守羊侃，等到听说朝廷下令严厉缉捕，他忙与羊侃投奔萧梁。李神轨下落不明，大概也死在逃亡途中了。汝南王元悦、临淮王元彧、北海王元颢之前为避难投奔南方，听说魏主元子攸正四处寻觅宗室成员，元彧忙恳请梁主放他回国。梁主不便强留，只好同意他回国。魏主当即任命元彧为尚书令，兼任大司马。元彧上任后，不管什么事都敢于直言劝谏。
不久，魏主元子攸打算册立皇后。尔朱荣想将自己的女儿改嫁给魏主。尔朱荣的女儿曾是肃宗的妃嫔，肃宗元诩是元子攸的侄子，名分攸关，怎么能将侄媳妇娶来做妻子呢？元子攸不便依从尔朱荣的意思，却又不敢违逆，犹豫不决。黄门侍郎祖莹便劝他说：“事贵从权！现在处于非常时期，还请陛下不要顾虑太多！”元子攸不得已，只好决定册立尔朱荣的女儿为皇后。祖莹立即向尔朱荣报喜，尔朱荣心花怒放，当即把女儿打扮得漂漂亮亮，送入宫中。魏主元子攸一看尔朱氏炫服华容，倒也漂亮，乐得将错就错，册立她为皇后。随后加封尔朱荣为北道大行台。
不久，尔朱荣辞行北去。走之前，特意保荐元天穆为侍中，为录尚书事，京畿大都督，兼任领军将军；行台郎中桑乾、朱瑞为黄门侍郎，兼中书舍人。尔朱荣在朝内密布自己的心腹，他人虽远在晋阳，但仍与在朝中一样，不肯放松半点。魏主也只好得过且过，慢慢等待时机，以便扭转局势。
不久，葛荣率领百万大军围攻邺城。魏主打算亲自征讨，令大都督上党王元天穆率八万人马为前驱，大将军太原王尔朱荣率领十万人马为左军，司徒杨椿带领十万人马为右军，司空穆绍率领八万人马做后应。尔朱荣收到诏书，立即率领七千名精骑兼程疾进，令侯景领兵做前驱，东出滏口。葛荣横行河朔，所过之处都残破不堪，听说尔朱荣孤军前来，便很狂傲地对部众说：“就那么点人马，还想和我军较量！你们立即去准备绳索，他们来一个，你们捆一个！”随即列阵数十里，静待尔朱荣军。
尔朱荣率军秘密行进到山谷，随即将骑士分为几个小队。每队约有数百骑，令他们制造尘雾，摇旗鼓噪，以混淆贼众的视听。随即亲自率骁骑绕到葛荣的阵后，打算前后夹击。葛荣只管前，不顾后，猛然间好像听到千军万马杀到的声音，他急忙备战。没想到等了半天，连个敌军的影子都没有。葛荣正打算稍作休息，突然又是喊声四起，尘土滚滚。于是又等了一会儿，仍不见敌军到来。葛荣被搞得惊疑不定。过了一会儿，忽然大笑道：“这分明是尔朱荣的疑兵计，他们毫无实力，便想先扰乱我军军心，再给我军以致命一击。我们不要中他的奸计，现在大家不如静坐养精蓄锐。”部众随即各自散开小憩。不料阵前阵后，突然呼哨声迭起， 许多铁骑冲入阵内，一阵乱劈。葛荣仓促上马，只顾着督众向前，抵御眼前的骑兵。没想到，忽然从背后杀来一员大将，手起槊落，竟将他挑落马下。一声呼喝，几个健卒一跃而至，立即把葛荣捆住。贼众见首领被擒，无不胆战心惊。那员大将又传令说投降的人免死，于是贼众一齐投戈，匍伏乞降。大将又朗声说道：“你们都是有父母妻儿的人，怎么能跟着逆贼去寻死呢？今天，我先放你们一马，要去要留，你们自己决定吧。”贼众多半愿归乡里，俯首拜谢，欢跃而去。冀、定、沧、瀛、殷五州自此肃清。这位厉害的大将是谁呢？正是尔朱荣。
尔朱荣遣散贼众后，仍有几个小头目无家可归，尔朱荣就把他们留在军中效力。可巧小头目中有一个少年，长得虎背猿躯，与众不同。尔朱荣细细一问，得知他叫宇文泰，父亲宇文肱随鲜于修礼战死，于是他来投靠葛荣。葛荣战败后，他又投入尔朱荣军。尔朱荣见他相貌不凡，便提拔他为军将。葛荣被押到洛阳后，斩首示众。魏主加封尔朱荣为大丞相，令他督管河北畿外诸军事，并将他的几个儿子都封为王侯。随后撤回元天穆各军，晋升司徒杨椿为太保，城阳王元徽为司徒。
当时，梁将军曹义宗花了三年时间才攻克北魏荆州，结果荆州又被北魏中军将军费穆收复，连曹义宗也被擒走了。梁主萧衍听说曹义宗被掳，当然不肯善罢甘休，随即想出以敌制敌的计策，封北魏降将元颢为魏王，令将军陈庆之率军协助元颢。元颢随即北行，攻克荥城，擒住北魏行台统帅济阴王元晖，自称魏帝，改元孝基。
北魏大都督元天穆正出军河间，讨伐伺机作乱的伪汉王刑杲。邢杲曾是幽州主簿，国乱当前，他却想趁乱为王，随即召集河北流民，占据北海，侵扰青州。元天穆奉命东征，又传来萧梁入侵的消息，魏主令他见机行事，他便决定先灭邢杲，再讨伐元颢。不到几个月，刑杲被杀。元天穆急忙移军南趋，一路上连接警报，说是元颢引领梁军趁虚深入，攻取梁国，拔下荥阳。元天穆军匆忙赶到荥阳城下，可是陈庆之军又突然杀出来，元天穆军大败。陈庆之趁势追击，攻陷虎牢。虎牢是洛阳的要塞，虎牢一失守，洛阳大震。
魏主元子攸率领几名侍卫慌忙逃往晋阳，一方面寻求尔朱荣的保护，一方面请尔朱荣出兵抵御。元子攸一走，京城顿时大乱。临淮王元彧、安丰王元延明倡议奉迎元颢为帝，随即封府库，备齐依仗，率领百官将元颢迎入都城。
元颢入居洛阳皇宫，改元建武，也照例颁诏大赦，任命陈庆之为侍中，兼任车骑大将军。随后斩杀投降的费穆，招降各州郡。元颢入洛城时，遭遇暴风，走到阊阖门，他的坐骑忽然惊跳起来，不肯入城。还是侍从牵住缰绳，驱赶了好几次，元颢才得以入城。元颢颇有戒心，刚入城时，禁止官兵烧杀掠夺，京城还算安定。一个多月后，元颢渐渐骄怠起来，纵容宠臣恣意妄为，自己也天天纵酒享乐，不再体恤兵民。那些跟随他入都的兵将，横行街市，惹得民怨四起，朝野失望。恒农人杨昙华私下对亲友说：“元颢肯定坐不住皇位，顶多在位六十天。”谏议大夫元昭业也私下谈论道：“从前刘玄自洛阳西行，刚出发，马突然受惊，径直撞向北宫的铁柱，结果三匹马都死了，刘玄后来也一事无成。援古证今，看来新主也坐不住皇位呀！”高道穆的兄长高子儒溜出洛阳，追随元子攸。元子攸问起他洛阳的事情，高子儒回答说：“元颢败在旦夕，陛下不用担心！”元子攸这才稍微安心。