李密传檄四方，各地反贼纷纷响应，按说中原是唾手可得，偏偏天命所归，不属李密，却付诸太原留守李渊。李渊奉隋炀帝之命调兵讨伐甄翟儿，大破甄翟儿后，留守太原。当时，晋阳令刘文静因与李密是姻亲关系，被逮捕入狱。随父亲来到太原的李世民见好友刘文静坐罪入狱，便经常去看他，并代为叹惜。刘文静惆怅地说：“近来天下大乱，性命轻似鸿毛，除非汉高祖、光武帝复生，或许我还能重见天日。”李世民生气地说：“你怎么知道没有枭雄？我今天来看你，就是想与你共议大事，难道我是来效仿那些儿女为你哭泣的？”刘文静建议李世民劝父亲袭取关中，李世民颇为踌躇，刘文静又附耳授计，他才喜悦而去。
原来，晋阳宫监裴寂是李渊的老友，刘文静料知李世民劝不动父亲李渊，便叮嘱李世民结交裴寂，让裴寂从中周旋。裴寂嗜酒好赌，李世民便投其所好，请他喝酒赌博，并故意输钱。相处一段时日，李世民见时机已经成熟，便将密谋和盘托出。裴寂缓缓回答说：“只怕你父亲不肯，怎么办？”李世民一再恳请，裴寂想了一会儿，才说：“有了有了，你就等着我的好消息吧。”过了一两天，裴寂将李渊请入晋阳宫，盛宴相待，喝到半醉时，走出两个美人过来劝酒。已经醉酒的李渊糊里糊涂地把两美人当成歌伎，乐得借色陶情，畅饮遣怀。没过多久，李渊便在美人的陪伴下，入寝沉睡了。第二天天大亮，李渊才醒来。睁开眼睛一瞧，身边竟躺着两位美人，李渊不禁咄咄称奇，连忙问她们来历，没想到竟是晋阳宫中的尹、张二妃。李渊大惊而起，慌忙出宫，召问裴寂。裴寂却笑着回答说：“没事。”李渊失色道：“这是天子的行宫，尹氏、张两位美人又是天子的妃嫔，你怎么能让她们来陪我？如果让天子知道了，我还能保全性命吗？”裴寂大笑说：“唐公！你怎么这么胆小！不要说几个宫人，就是隋室江山，你也可唾手取来。”李渊只是不停地跺脚，连呼：“误我！”忽然有人进来禀报说，突厥兵入侵马邑。李渊只好匆匆出宫，派副留守高君雅率兵援救。
几天后，高君雅的败报传来，李渊很是不安。李世民趁机劝父亲兴兵，却遭到李渊的呵斥。第二天，李世民又跑去向父亲摆明事实，讲清利害关系，李渊不禁叹道：“家破身亡，因你而起；化家为国，也因你而成。”虽是如此，但因家眷还在河东，李渊一时不敢发难。忽然从江都传来消息，隋炀帝派使臣来太原督战。李渊越发惊惧，再加上李世民与裴寂的劝说，他当即整顿兵马，准备起事。不巧江都又传来消息，隋炀帝令李渊照旧供职。李渊稍稍放心，暂且按兵不动。但李世民却等不及了，他早已暗地差遣心腹去接家眷，等眷属一到太原，便准备兴师。李渊的妻子正是北周上柱国窦毅的女儿。窦毅的的妻子是周武帝的姐姐襄阳公主，隋主杨坚篡取北周主的皇位时，窦毅的女儿曾恨自己不是男子，不能救护舅舅家。那时，窦毅已将女儿视为奇女，后来为女儿挑选夫君时，他让应试者射击屏风上孔雀的眼睛，李渊一箭中的，被他招为女婿。窦氏生有四个儿子，一个女儿，大儿子叫李建成，老二就是李世民，三儿子叫李元霸，四儿子叫李元吉，女儿则嫁给临汾人柴绍。当时窦氏已过世，李元霸也早逝。李建成、李元吉一接到李世民的密信，便邀柴绍一同赶赴太原。李渊经不住裴寂的催促，于是放出刘文静，让他矫造圣旨，发往太原、西河、雁门、马邑等地，说是朝廷决定讨伐高丽，以激起民变。
马邑的乱党头目刘武周，将自己掠得的几名汾阳宫的妃嫔献给突厥，请求突厥的援助。突厥竟册立他为定杨可汗，国号为元。又有一些流民在西北一带闹事，刘武周也逼近太原，闹得李渊无法图存，只得冒险起事。碰巧高君雅回城求援，李渊干脆将他与副留守王威两人一起除掉。
李建成、李元吉与柴绍一同抵达太原，李渊自然可以安心发兵了。刘文静怕受到突厥的牵制，劝李渊拉拢突厥。突厥始毕可汗唯利是图，当然愿意出兵帮助李渊，并建议李渊自称天子。李渊不敢突然称王，只是表示尊隋炀帝为太上皇，拥立代王杨侑为帝，并派李建成、李世民攻打西河郡。李建成与李世民往返才九天，不但拿下西河郡，还赢得百姓的赞颂。李渊大喜过望，自称大将军，又是设置官吏，又是发仓赈民。裴寂随即被封为大将军府长史，当即将晋阳宫中的妃嫔、珍宝全部送到将军府。
新秋时节，李渊督兵西行，令小儿子李元吉留守晋阳，并传檄四方，说是发兵入关，拥立代王。留守西京的代王杨侑却派虎牙郎将宋老生屯驻霍邑，大将军屈突通屯驻河东，抗拒李渊。这时，李渊又接到李密的来信，李渊只好虚与周旋，推举李密为盟主，并请他塞住河洛，牵制隋兵。几天后，前驱李建成、李元吉阵斩宋老生，攻克霍邑，并乘胜拿下临汾、绛郡，随后又招降韩城。出使突厥的刘文静也带着五百名突厥兵、两千匹马赶来会合。李渊分出部分人马留守河东，然后率大军渡河，围攻屈突通。关中士民陆续归附。李渊又让李建成、刘文静屯驻永丰仓，守住潼关，控制河东；让李世民、刘弘基去攻打渭北；自己则居住长春宫，居中调度。一天，忽然来了一支娘子军，为首的女英雄正是李渊的女儿，柴绍的妻子。骨肉重逢，自是十分欢愉。李世民屯驻泾阳，招纳了关中近九万的贼众，柴绍夫妇也随李世民一同进军。代王杨侑急忙派人保护关中，登城防御。李世民自泾阳出发，一路秋毫无犯，经过延安、上郡、雕阴各境，当地的民兵无不叩马迎降。李渊随即启程西行，前去与李世民会合。不久，长安城下便汇集了二十多万人马，城中的兵民自然招架不住，没几天城池就被攻破了。李渊拥立十三岁的代王杨侑为皇帝，尊隋炀帝杨广为太上皇，改元义宁；封自己为大丞相，都督内外军事，晋封为唐王；册立儿子李建成为世子，封李世民为秦公，李元吉为齐公。
这时，刘文静也押屈突通到了长安。李渊见了屈突通，忙为他松绑，并好言劝慰。屈突通唯命是从，李渊当即任命他为兵部尚书，兼封蒋公，让他去河东城招降通守尧君素。尧君素却是一个硬汉子，死不低头，羞得屈突通满脸通红。李渊便暂时将河东搁置一边，一心打探东都的消息。
自从李密进逼东都以来，留守东都的越王杨侗一再派使臣向江都告急，然而虞世基却对隋炀帝说，越王少不更事，十分慌张。等到警报频繁传来，隋炀帝才让将军庞玉等人去援救东都。越王杨侗派段达出兵与庞玉军夹攻李密。李密大败，退回洛口。不久，李密又部署部众进逼东都，大败隋军。有人建议李密趁势杀往江都，挟天子以令诸侯。刚巧王世充奉隋炀帝之命率领江淮精兵攻打李密。李密无法东行，只好与王世充对垒，不久又除掉了疑忌已久的翟让。一山难容二虎，王世充料知李密、翟让二人必不相容，想等翟让除掉李密再进取。没想到竟传来翟让的死讯，王世充顿觉失望，仍旧徘徊洛水，与李密对垒。这消息传入长安，李渊当即任命李建成为抚宁大将军，李世民为副将，让他们率兵渡河南下，援应东都。李渊这一招其实是在牵制李密，与他争中原。
忽然从江都传来急报，说隋炀帝被杀，宇文化及拥立秦王杨浩为帝。李渊不禁痛哭道：“我为国效忠，却不能救护君主，怎么能不哀痛？”原来，隋炀帝到了江都，比从前更为荒淫，后来精力枯竭，百病缠身，再加上天下大乱的局势，他便不想回北方了。一天，隋炀帝对萧皇后说：“外面想杀朕的大有人在，朕虽然失去天下，但仍旧可以在这里过神仙似的日子。我们就只管眼前的快乐吧！”萧皇后向来十分柔顺，这次自然也随声附和。又过了几天，隋炀帝早上起床，照了半天的镜子，而后对萧皇后说：“这么好的头颅，不知谁会把它砍下来呢？”萧皇后惊异地问他怎么说这种话。隋炀帝回答说：“贵贱苦乐，循环不息，这有什么好惊异的？”不久，江都的粮草已经吃光，护驾的关中将卒都想回乡。虎贲郎将司马德戡与直阁将军裴虔通，也私下勾结同僚打算西归。有个宫女听说后，忙通报萧皇后说：“外面已经有人想造反了。”萧皇后说：“你可以亲自跟皇上说。”宫女随即禀报隋炀帝，没想到隋炀帝大怒道：“你知道什么国事，敢来胡说？”当即喝令侍卫把宫女拉出去处死。自此，再没人敢多嘴了。
司马德戡、裴虔通串通虎牙郎将赵元枢，赵元枢又联络将作少监宇文智及，并推举宇文智及的兄长宇文化及为主帅。胆小的宇文化及经不住众人的怂恿，勉强允诺。司马德戡当即召集骁勇的军吏，部属军队，准备起事。
隋炀帝当然也有防备，并因略识星象，而经常在晚上观天象。因连日来星象不佳，隋炀帝忙召问太史令袁充，袁充哭着请他修德避祸。隋炀帝忧愁地起身，进入便殿，低头抽泣。一回头，见王义仍站在身边，隋炀帝开口说：“你是不是也知道天下将乱，为什么不跟我说？”王义哭着说：“天下大乱，由来已久，小臣在深宫当差，不敢干预朝政。如果我逾越本分，早些向陛下吐露的话，只怕臣的骨头早已腐朽。”隋炀帝迷惑地说：“你今天敢说实话，总算是让我明白自己做过什么。”第二天，王义呈上一份奏章，直指隋炀帝的从政过失。隋炀帝看完，不禁叹息道：“自古以来，哪有不亡的国家，不死的主子？”王义跪下哭着说：“到了今天，陛下竟还想为自己掩饰过错。臣曾听陛下说：‘朕将跨三皇，超五帝，俯视商周，成为万世不可及的圣主。’到了今天，时局已经发展到连京城都回不去，这难道就是陛下曾经的豪言壮志？”隋炀帝无法再为自己辩解，只是哭着说：“你真是朕的忠臣，只是这世间没有后悔药。”王义继续哽咽道：“都怪臣从前贪生怕死，不肯说，现在臣愿一死，报谢陛下的恩惠。只请陛下自爱！”说完，叩头而去。隋炀帝再次细看王义的奏章，突然有人进来说：“王义自刎了。”隋炀帝惊叹道：“有这等事情？可悲可痛！”随即让人将王义厚葬。当天又接到各地的警报，隋炀帝急得没有办法，只好自嗟自叹。
好不容易又过去几天。一天晚上，隋炀帝与皇后等人饮酒消遣。忽然东南角上火光冲天，并伴有一片喧噪声，隋炀帝慌忙召入直阁将军询问原因。直阁将军不是别人，正是密谋作乱的裴虔通。裴虔通进来对隋炀帝说：“草坊突然失火，外面的兵民正在扑救。没什么大事，还请陛下不要担心！”隋炀帝这才放心。裴虔通当即奉命外出严守，隋炀帝则继续饮酒，然后醉醺醺地带着萧皇后、朱贵儿安然同寝了。
不久，鸡声报晓，天色微明，叛兵已拥入玄武门，大刀阔斧杀入宫来。玄武门本有强壮的宫奴把守，但当晚他们都奉假诏去休息了。司马德戡杀进宫殿，如入无人之境，再加上裴虔通做内应，大内的侍卫逐渐被替换成叛军。右屯卫将军独孤盛与千牛备身独孤开远一看情况不对，忙出来诘问裴虔通。裴虔通回答道：“事已至此，识时务者为俊杰，将军只要不参与，就能取得富贵。”独孤盛当下愤恨地骂道：“老贼竟说出这样的话来！”当即拔刀与裴虔通奋战。司马德戡率领叛众杀进来助战，独孤盛被刺死。独孤开远奔到阁门前，想请隋炀帝亲自督战，结果在阁门外大呼大叫了半天，也不见一人答应。叛党已追杀过来，独孤开远回马接战，因寡不敌众，被掀落马下，最后被乱兵擒去。阁内无人把护，叛党斩门而入，径直奔往寝殿，寻找隋炀帝。