杨广打懂事起，就没有尝到过失败的滋味，也不知道世界上还有这个词，他痛定思痛，觉得这次虽然进行了充足的准备，但问题还是出在后勤保障上面，如果想要成功，必须要从这里着手。
大业九年(613年)正月，刚刚过完春节，杨广便迫不及待地下诏全国军队再次集结到涿郡。不过，由于第一次征伐惨败，人员损失严重，兵源已经枯竭，杨广不得已，下令招募普通百姓入伍，这样勉强凑够了四十万大军。为了解决后勤补给问题，杨广下令修建辽东古城贮备军粮。
为了鼓舞士气，杨广决定御驾亲征。但有些大臣站出来劝谏，觉得皇上没必要深入前线。左光禄大夫郭荣说：“戎狄失礼，臣下之事；千钧之弩，不为鼷鼠发机，奈何亲辱万乘以敌小寇乎！”戎狄失礼，惩罚他们是大臣的事，千钧之弩，不可能为了老鼠去发射。陛下没有必要为高句丽这样的小国而亲自出征，言外之意是杀鸡焉用牛刀。
杨广对此并没有接受，上次丢的面子这次一定要赚回来。看到一些大臣不解圣意，杨广勃然大怒道：“我自行犹不克，直遣人去，安得有功？”我自己去都不一定能够打赢，派其他人去，怎么可能打胜仗？
杨广虽然这样讲，但心里明白这一次必须要赢，而且一定能赢。他在出征前说：“高丽小虏，侮慢上国；今拔海移山，犹望克果，况此虏乎！”高句丽这个弹丸小国，竟敢侮辱我大隋王朝，如今就是拔海移山都能够做到，何况收拾这个小虏？杨广觉得如果连一个小小的高句丽都无法战胜，会被天下人耻笑，脸面不知道往哪里搁了。下定决心后，他做了几项人事安排，令皇孙杨侑留守大兴城，派杨素的儿子礼部尚书杨玄感到黎阳督运粮食。
令人大跌眼镜的是，杨广选择了败军之将宇文述为主帅。首先是恢复了宇文述的官职，杨广给出的理由是“宇文述以兵粮不继，遂陷王师；乃军吏失于支料，非述之罪”。就是说，上次打败仗是因为后勤补给不力，和宇文述的指挥没有什么关系。除了让宇文述继续担任陆军主帅，水军的头领也没有变，依然是来护儿。可以说换汤不换药，为的是让两人戴罪立功。
这一次进展比想象中顺利。四月二十七日，杨广亲自率部渡过辽河，进围辽东城，然后派宇文述和大将杨义臣率军直捣平壤，同时派左光禄大夫王仁恭进攻新城(今辽宁抚顺北)，三管齐下，志在必得。
杨广充分吸取上次的经验教训，不要求诸将领凡事汇报，带兵将领可以根据情况变化随机处置，解除了对他们的束缚。焦点之战还是在辽东城，上次就在这里摔了跟头，说什么也要攻下来。为此，杨广把能用的攻城手段全部用上了，撞车、云梯、地道等，昼夜不停攻打了二十余日。但和上次一样，还是无法攻克，双方的损失都很惨重。
杨广没辙，绞尽脑汁想出一个办法。他让人赶制了一百万个布袋子，里面装上土，然后往城墙上堆，堆成一个宽三十步、与城墙一样高的斜坡，杨广还为此起了一个名字，叫作“鱼梁大道”。同时又造了八轮楼车，高度超过城墙，可以进行俯射。这两招很好使，辽东城危在旦夕。与此同时，宇文述和杨义臣率部顺利渡过了鸭绿江，进入了朝鲜半岛，胜利指日可望。
就在即将一雪前耻时，一个大大的噩耗传来，在后方督运粮食的杨玄感起兵造反了。
杨玄感是前朝宰相杨素的长子，“体貌雄伟，美须髯”，和他父亲一样，长得高大威猛，是个美男子。不过，杨玄感似乎发育得比较晚，“少时晚成，人多谓之痴”，以至于不少人认为他有些痴呆，只有父亲杨素看好他，常对所亲近的人说：“这个孩子不痴呆。”果如杨素所言，杨玄感长大后，“好读书，便骑射”，成为一个文武双全的青年才俊。
杨玄感因父亲杨素的军功，授柱国，与杨素都是二品官。上朝拜见皇帝时，父子同列。后来，隋文帝让杨玄感官品降一级。杨玄感拜谢说：“没料到陛下如此宠爱我，让我在公廷上得以表示对家父的尊敬。”杨素去世后，杨玄感以长子身份袭爵楚国公，升任礼部尚书。
杨玄感早有反意，当年杨广西巡，经过大斗拔谷，天气恶劣，山路狭窄，车驾很狼狈，杨玄感就动了造反的念头，想着袭击杨广的行宫，发动政变。亏了知道他计划的叔叔杨慎劝他说：“如今的隋朝，民心统一，皇上没有垮台的痕迹，不能胡来啊。”杨玄感这才作罢。
按说杨玄感的父亲杨素生前备受恩宠，杨广对他们家非常不错，杨玄感身居高位，他为什么会有这样的想法呢？因为杨玄感看到杨广的大手笔和瞎折腾，激起了许多民怨，但他依然执迷不悟，王朝即将陷入风雨飘摇的境地。再加上他的父亲当年坐朝臣中第一把交椅，朝中文武百官大多曾经是杨素的手下，有很好的基础。而且杨广又一天比一天爱猜忌，这也让杨玄感深感不安。因此，杨玄感与几个弟弟密谋，准备废掉隋炀帝，立秦王杨浩为帝。
杨玄感知道掌兵的重要性，要想成功，首先要有军权。于是杨玄感找到兵部尚书段文振说：“玄感世荷国恩，宠逾涯分，自非立效边裔，何以塞责！若方隅有风尘之警，庶得执鞭行阵，少展丝发之功。”我们杨家世代承蒙皇帝恩宠，远超于别人，如果不能在边塞立功，实在是非常惭愧。如果边疆不稳，我愿执鞭于战阵之中，建立军功。
段文振把杨玄感说的话转告给了杨广，杨广根本不知道杨玄感想要干什么，感觉他很忠心，也很有担当，于是在群臣们面前夸奖杨玄感说：“将门必有将，相门必有相，故不虚也。”给了杨玄感不少赏赐，还让他参与朝政和军中事务。
杨玄感一直等待着机会降临，这次杨广让他督办粮草，他感觉时机已经成熟。道理很简单，粮草是打仗的基础，如果切断对前方的粮草供应，杨广的军队定会不战自溃。杨玄感先将在前线的几个弟弟秘密召了回来，然后停止向前方供应粮食。杨广见到粮食不能及时供应，便派使者催促，杨玄感托词说：“水路多盗贼，不可前后而发。”
不过，造反总是需要一个说得过去的理由。当时，来护儿的水军还没有出发，集结在东莱海面，杨玄感决定拿这个作为起兵的借口。他让家奴装作朝廷使者，从东北匆匆而来，谎称来护儿因耽误军情怕受罚而造反。杨玄感以此为由关闭黎阳城，在城内拉男丁从军，帆布作牟甲，按照开皇年间旧制设置官署。又送文书到周边的州郡，以讨伐来护儿为名，要求他们派兵到黎阳集结。
援兵没来多少，但却来了一个关键人物——李密。李密的祖父叫作李弼，是西魏八柱国之一，属于关陇集团核心圈子里的人物。李密很有雄心壮志，常常以救世济民为己任，而且非常善于谋略，史书上称“密多筹算，才兼文武，志气雄远，常以济物为己任”。
李密表现得气度不凡，不寻常到何种程度？连杨广都看出来了。那时杨广刚刚登基不久，李密凭借父荫任左亲卫府大都督、东宫千牛备身。李密长得很特别，“额锐角方，瞳子黑白明澈”，额头尖眼角方，眼瞳黑白分明。杨广在仪仗队中看见他，回宫后问宇文述说：“刚才在左边警卫队里的黑脸小孩是个什么人？”宇文述回答说：“他是已故蒲山公李宽的儿子，叫李密。”杨广说：“这个小孩顾盼的神态很不寻常，别让他在宫里担任宿卫。”宇文述找了一个机会对李密说：“贤弟天资这么好，应该凭才学获得官职，宫廷警卫是个琐碎差事，不是培养贤才的地方。”言外之意是要他另找出路，别在这里干了。
李密或许早就不想干了，不仅没有失落，反而非常高兴，借病辞职，专心致志读书，人们从此很少看到他。正是在这段读书的日子里，他结识了杨玄感的父亲杨素。
关于两人的相识，流传着一个民间故事。有一次，李密骑了一头牛出门看朋友。在路上，他把《汉书》挂在牛角上，抓紧时间读书。正好宰相杨素坐着马车从后面赶上来，看到李密如此勤奋，暗暗称奇。杨素问他的名字，李密认识杨素，慌忙跳下牛背，自报家门。杨素跟李密谈了一会儿，觉得这个年轻人很有抱负和才干。回家以后，杨素跟他儿子杨玄感说：“我看李密的学识、才能，比你们几个兄弟强得多。将来你们有什么紧要的事，可以找他商量。”从此以后，杨玄感就跟李密交上了朋友。
杨玄感起兵后，李密赶来投奔，为其出谋划策。对于下一步行动，李密献上了上、中、下三策：上策是袭据涿郡，扼临榆关(今山海关)，断了杨广的归路，使隋军溃散关外；中策是攻占长安，控制潼关，占据关中和杨广对抗；下策是就近攻打洛阳。
杨玄感的想法恰恰与李密相反。他认为攻打洛阳为上策，道理很简单：洛阳近在眼前，况且隋朝官员的家属许多都在洛阳，如果能够顺利攻克东都将产生极大的影响力，会吸引更多的人来参加队伍。再说了，经过洛阳却不攻打，用什么显示威力？
杨玄感由此决定攻打洛阳。此时再拿来护儿说事就站不住脚了，不如打开天窗说亮话，将矛头直指杨广。他宣称杨广残暴无道，不以天下苍生为念，致使在辽东战死数十万人，自己起兵就是为了救百姓于水火之中。为了增加号召力，杨玄感把父亲杨素搬了出来，说：“先父杨素曾奉高祖文皇帝遗诏，曰：‘好子孙为辅弼之，恶子孙为我屏黜’。”不顾百姓死活的杨广肯定算是“恶子孙”，因此起兵废黜杨广是为了完成隋文帝的遗愿。杨玄感虽然说得有鼻子有眼，但这个遗诏大概率不存在，为了造反的正义性，只能拿这个说事。
杨玄感提出的口号是“上禀先旨，下顺民心，废此淫昏，更立明哲”。宣传工作起到了不错的效果，“从乱者如市”，沿途百姓纷纷加入。杨玄感造反的消息传到了洛阳，留守的越王杨侗，以及具体主持工作的民部尚书樊子盖非常恐惧，赶紧调兵防御。杨玄感起初进展比较顺利，兵分两路：南路由弟弟杨积善带领，率三千人从偃师沿洛水向西，进攻洛阳东南方；北路由另外一个弟弟杨玄挺率一千多人，由白司马阪翻越邙山，从东北进攻洛阳。杨玄感自带三千人马，跟在杨玄挺的后面。
樊子盖遣河南令达奚善意率五千人出拒杨积善，河南郡赞治裴弘策率八千兵马抵抗杨玄挺，按照势力对比，朝廷军队占绝对优势。杨玄感的队伍感觉更像是乌合之众，从运粮的役夫中选择了五千余人，又从江南丹阳、宣城来的水手中挑选三千余人，勉强凑了一万余人。队伍中大多是农夫、渔民、船夫，没有经过正规的军事训练。而且队伍不仅人数少，装备还很差，“其兵皆执单刀柳，无弓矢甲胄”，士兵每人只有一柄单刀，一个柳条盾，没有弓箭，也没有铠甲。
但是打仗有时不能只看纸面实力，更重要的是士气，朝廷军队在这方面出了大问题。洛阳的留守兵马自隋朝建国以来三十余年没打过仗，和平日子过惯了，一上战场腿都直打哆嗦。达奚善意部驻扎在汉王寺，见杨积善率部杀来，两军还未接触，达奚善意的部队便崩溃了，争相逃回城中，营中铠甲器械都被缴获。
裴弘策这边好一点，虽然也是一触即溃，但跑了三四里刹住了闸。裴弘策收败兵结阵，准备再与杨玄挺交战。但没想到，杨玄挺剑走偏锋，居然让部下坐下休息，等到裴弘策的队伍稍稍懈怠，杨玄挺忽然上马冲杀，顿时将裴军冲散。如此这般，两军交战五次，裴弘策抵挡不住，只剩十余骑逃回城中，其他的都被杨玄挺所俘。
杨玄感乘势冲到洛阳城下，此时他的感觉好极了，成功似乎唾手可得。他在上春门当众立下誓言道：“我身为上柱国，家累巨万金，至于富贵，无所求也。今者不顾破家灭族者，但为天下解倒悬之急，救黎元之命耳。”我身为上柱国，家里黄金万斤，对富贵已一无所求。现在我不顾灭族的危险举事，只是为了给天下人解倒悬之急，拯救黎民百姓的性命罢了。话说得慷慨激昂，充满正义感，又收获了不少人心，洛阳周边的百姓纷纷送来物资，许多青壮男丁纷纷投军，杨玄感的军队规模立即扩大起来。
令杨玄感未曾想到的是，围攻洛阳带来一个意外的效果，那便是不少“官二代”纷纷跑来投降。里面包括灭陈的大功臣韩擒虎的儿子，隋初宰相杨雄的儿子，“五贵”中裴蕴和虞世基的儿子，居然还有攻打高句丽的水军统帅来护儿的儿子等四十多个子弟。其中除了韩擒虎已经去世，来护儿、虞世基、裴蕴、杨雄等人都跟着杨广正在前线打仗。听闻儿子们造反，父亲们都怒了，一个个跑到杨广面前表忠心，声明与儿子们脱离关系，来护儿和杨雄的另一个儿子杨恭仁，还要求亲自带兵，前去剿灭叛军。
除了这些贵族弟子，还有一些隋朝大臣前来投奔，包括内史舍人韦福嗣、大将李子雄等。杨玄感对韦福嗣非常信任，军机大事都与他商议，不过杨玄感令他起草文告时，韦福嗣却不受命。李密劝杨玄感说：“韦福嗣和我们不是一路人，心怀观望。您刚举义旗，却让奸细留在身边，必然被他误事，杀了他人心才会安定。”杨玄感非但没有听李密的，反而更加信任韦福嗣，让其平分李密的权力。从此军中不再是李密完全说了算。李密对此很失望，对身边人抱怨说：“楚国公(杨玄感)喜爱造反却不打算成功，怎么办？我们将会当俘虏了。”
第一支赶到洛阳的援军是刑部尚书卫文升所率的四万兵马，他是受镇守大兴城的代王杨侑之命派来救援东都。杨玄感的父亲杨素是隋朝第一名将，在打仗这方面他还真继承了父亲的基因。面对来势汹汹的隋军，杨玄感佯装战败，卫文升紧紧追赶，一下子进了伏击圈，杨玄感的伏兵杀出，卫文升的先头部队都被消灭了。几天后，卫文升整军与杨玄感再战，两军一交火，杨玄感就让人大喊：“官军捉住杨玄感了！”隋军一听便松懈下来，杨玄感乘机猛攻，卫文升所部大败，只带了八千人逃走。
就在杨玄感在洛阳城下鏖战时，杨广正忙着从高句丽撤军。听到杨玄感叛乱的消息，他顿时感到五雷轰顶。本来这次出征比较顺利，辽东城指日可下，但没想到此时后院起了火，而领头反叛的居然是自己曾经非常倚重的杨素的儿子。
杨广密召诸将，下令秘密撤军。一夜之间，隋军全部拔营后退，留下的军资器械堆积如山。所有营垒、帐幕都留在原地，全军轻装而退。这着实把高句丽守军搞傻了，由于保密工作到位，高句丽军队不知发生了什么，城池危在旦夕，没想到隋军却主动撤走了。高句丽守军担心有诈，不敢追击，第二天才派一些人马去侦察，还是不知是真是假。两天后，发现隋军越撤越远，才知道撤军是真，派出数千人追击，但隋军早有准备，没有占到什么便宜。
杨广之所以如此慌乱，是因为杨玄感叛乱的后果太严重了。一是截断了粮草供应，几十万大军没有了后勤补给，这种仗根本无法再打下去。二是杨玄感不是一个人举事，背后代表着关陇贵族集团，不少“官二代”都投奔他，手下的重臣都已是人心惶惶，预示着统治阶级高层发生了分裂，这点是让杨广最为担心的。同时，掌握军机事务的斛斯政因为暗中放走了杨玄感的两个兄弟，担心被问罪，转而投奔了高句丽，隋军所有的作战计划和军事部署全部泄露，接着往下打困难增加了很多。
杨广在撤军路上部署对杨玄感的全面围攻，让手下将领快速回返，派虎贲郎将陈棱进攻杨玄感的根据地——黎阳。武卫将军屈突通挺近河阳，伺机渡河向洛阳进发。宇文述发兵跟进，来护儿则从另一个方面增援洛阳。
杨玄感此时还陷入了与卫文升的纠缠之中，虽然打了几个胜仗，但却无法彻底消灭隋军，双方形成了对峙局面。随着各路增援队伍的到来，杨玄感意识到再拖下去可能会成为瓮中之鳖，当务之急是消灭眼前的朝廷军队。于是，他在邙山下摆开阵势与卫文升决一死战。这一仗打得非常惨烈，虽然杨玄感很能打，“玄感骁勇多力，每战亲运长矛，身先士卒，喑呜叱咤，所当者莫不震慑，论者方之项羽”。每次作战，他亲自挥舞长矛，身先士卒，呼叫叱咤，众敌莫不震骇。时人将他比作项羽。但是，打仗不是一个人的事，还是要靠整体实力说话。此战中杨玄感的弟弟杨玄挺被流矢射死，杨玄感只好下令暂时退却。
此时形势更加恶化，樊子盖不时掀起小规模的反攻，而援军在屈突通的率领下兵临黄河。照此下去，真会像李密所预料的，陷入四面受敌的局面，杨玄感感到阵阵寒意，慌乱之中他求教于降将李子雄。李子雄的意思是屈突通与卫文升绝对不能合兵一处，因此要分兵两路，一路对付卫文升，一路抵抗屈突通。但这无异于画饼充饥，本来兵力有限，而且依然困守城中的樊子盖屡屡出击，根本无法分兵去堵河阳渡口。
屈突通非常顺利地渡过黄河，屯兵于洛阳东北。这意味着杨玄感围攻洛阳的计划彻底泡汤。此时，李子雄又出主意说：“东都援军益至，我师屡败，不可久留。不如直入关中，开永丰仓以赈贫乏，三辅可指麾而定。据有府库，东面而争天下，此亦霸王之业。”洛阳的援军到了，我军屡败，不可久留。不如直入关中，打开永丰仓，以赈济穷人，三辅平定后，再向东争夺天下，成就一番霸业。
李子雄所说的其实就是李密所提的中策，当初杨玄感不假思索地拒绝，如今却又当成一根救命稻草。
恰好此时杨玄感老家华阴的杨氏族人赶来，告知卫文升在增援洛阳的途中经过华阴时，居然将杨玄感老爸杨素的坟墓给挖了，而且还挫骨扬灰，杨氏家族损失惨重，因此请杨玄感回关中为他们做主，并表示愿意当向导。
杨玄感就此下定西进的决心，但总要有个理由，不明不白地开溜，很容易动摇军心。这时候杨玄感又想到了李密，请他出个锦囊妙计。李密说：“元弘嗣在陇右统率一支强大的军队，如今可以假称他要造反，派遣使者来迎接您，用这个理由进入潼关，就可以瞒住大部分人。”杨玄感于是假称杨氏族人为元弘嗣派来的使者，然后宣布：“我已经攻破东都，要继续夺取关中。”于是，带着队伍从洛阳向西撤走。
宇文述率部跟在后面追击，如果此时杨玄感能够快速进入潼关，布置重兵，严防死守，或许还有一线希望。但关键时刻，杨玄感又犯下了重大错误。
在通往潼关的路上，有一座杨广的行宫，叫作弘农宫。杨玄感率领大军经过这里时，突然来了一群当地乡亲，拦住杨玄感说：“宫城空虚，又多积粟，攻之易下，进可绝敌人之食，退可割宜阳之地。”弘农宫兵力空虚，又有很多粮食，非常容易攻克，这样，进可断绝敌人的粮食，退可占据宜阳的地盘。
杨玄感一听心动了，于是便想先攻下弘农宫。李密见状赶紧劝说道：“公今诈众西入，军事贵速，况乃追兵将至，安可稽留！若前不得据关，退无所守，大众一散，何以自全？”您本来就是哄着大家向潼关撤退，这种事贵在神速，而且追兵快到了，无论如何不能逗留，如果不能赶到潼关，凭险拒守，后退又无处可守，前后被夹击，士卒一旦逃散，用什么保全自己？
李密所言极是，这个时候必须快速进入潼关，否则后果不堪设想。但杨玄感却不想让到手的鸭子飞了，拒绝了李密的建议，率部来到弘农宫。弘农太守杨智积登上城墙，对杨玄感破口大骂。杨玄感被骂急了，下令全力攻打弘农，誓要将杨智积千刀万剐，结果打了三天也没有打下来。
就这样，宝贵的三天时间被杨玄感浪费了，后果极其严重，宇文述所率的追兵已经到了眼前，杨玄感且战且走，连战连败。双方在董杜原迎来了生死决战，此时杨玄感军队里的不少人因为感到绝望而逃跑，隋军则士气旺盛。结果毫无悬念，杨玄感大败，仅带着十余人逃走。人越走越少，到最后只剩下他和弟弟杨积善，马累得跑不动了，兄弟俩只好徒步行走。
杨玄感自知败局已定，对弟弟说：“如今事情失败了，我不能被活捉受辱，你杀了我吧！”杨积善狠狠心，举刀杀了杨玄感，成全了哥哥的心愿。然后举刀自杀，但没有刺中要害，被赶来的隋军抓获。
至此，历时两个月的杨玄感之乱宣告失败！
接下来是一场血腥的屠杀，杨广下令让御史大夫裴蕴和民部尚书樊子盖负责处理后事，给他们的指示很明确：“玄感一呼而从者十万，益知天下人不欲多，多即相聚为盗耳。不尽加诛，则后无以劝。”为什么杨玄感一下子就能纠集那么多人？就是因为天下人太多了，人多就会造反，所以还是别要那么多人好，干脆把造反的人一律杀光，以便警告后人，让他们不敢效仿。
裴蕴原本就是有名的酷吏，樊子盖也是以冷酷无情著称，再加上杨广的指示要求，一场大清洗不可避免地上演了。自杀未遂的杨积善认为自己手刃“贼首”杨玄感，立下大功，请求免死。杨广怎么可能同意，下令将其绑在刑具上，让文武百官把他当靶子射击，万箭穿心而死。投降杨玄感后又反叛的韦福嗣认为自己弃暗投明，不应获罪，但樊子盖拿出韦福嗣写给自己的劝降书，上面写着“废此淫君，更立明哲”，最后被乱箭射死，然后五马分尸。李子雄以同样的方式被诛杀。杨玄感的弟弟无论是否参与叛乱，全部被杀掉。杨玄感围攻东都的时候曾经开仓放粮，凡是从那里领过米的百姓，一律抓起来活埋。“所杀三万余人，皆籍没其家，枉死者大半，流徙者六千余人”，最后一共杀了三万多人，还流放了六千多人。
杨广连死了的杨玄感也不放过，在洛阳将杨玄感分尸，并暴尸三天，又把他的肉切成一块一块，放火焚烧。杨广还不解气，接纳公卿请求把杨玄感改为枭姓。
参与叛乱的重要人物中唯一逃脱的是李密，他在杨玄感兵败后也被隋军捉住，当时杨广在高阳，李密和他的同伙要被一起押送到那里去。李密很清楚，如果到了高阳，下场会非常惨烈。于是他对同伙们说：“我们的性命，如同早上的露水，如果被送到高阳，一定会被剁成肉酱。眼下在路上，还可想想办法，怎能送去遭受酷刑，而不设法逃避呢？”大伙儿都表示赞成，他把大家身上所有的金银搜罗在一起，用来打点押送人员，说：“我们死后，请用这作为经费安葬，余下的就全部报答您的恩德。”押送人员见钱眼开，答应了他们。这样逐渐拉近了彼此的关系，一路上李密买来酒菜，经常请押送官员吃吃喝喝，使押送官员对他们的防备逐渐松懈。走到邯郸时，李密等人找了个机会挖穿墙壁逃掉，后来辗转到了瓦岗寨，成为隋末农民起义的首领之一。
回顾杨玄感叛乱的整个过程，失败是注定的。最重要的问题是时机不对，杨广滥用民力，第一次征伐高句丽大败而归，虽然激起了民怨，出现了一些起义，但从总体上看，杨广的统治还算稳固，实力上没有根本损伤，还远没有到众叛亲离的地步。杨玄感在这个时候起兵，有些错估了形势，如果他采用了李密的主张，或许情势会好一些。但想推翻杨广取而代之无异于痴人说梦，倘若再隐忍一下，等到后来民怨沸腾，天下大乱时再竖起反旗，成功的可能性更大一些。
不过，虽然杨玄感叛乱以失败告终，却极大地动摇了杨广的统治。因为杨玄感不是一般人，他本人是朝廷的高官，父亲杨素更是杨广曾经最信任的人，这次叛乱意味着隋朝统治阶层已经开始崩塌，就像多米诺骨牌的第一张。在洛阳城下，一大批隋朝重臣名将之后纷纷叛变，释放了一个非常危险的信号：高层内部已经开始分裂，而堡垒往往容易从内部攻破，从这个意义上说，正是杨玄感将统治集团撕开了一个口子。
另外，杨玄感叛乱民众的参与度也是空前的，一如杨广所说：“玄感一呼而从者十万”，要知道，起兵之初只有不到一万人，但“从乱者如市”，很快就发展到了十几万人，沿途还有不少民众送酒送肉慰劳叛军。这说明人心已经思变，如果再这样下去，后果相当严重。
杨广其实意识到了问题的严重性，因此他可以对一些农民起义熟视无睹，但一听杨玄感叛乱脑袋就大了，立即决定第一时间从高句丽撤军。从一定意义上讲，杨玄感反叛实际上给杨广敲了一个警钟，如果他改弦易辙，悬崖勒马，让百姓休养生息，重新弥合统治集团内部的分裂，或许还能挽救颓势。但遗憾的是，他认为杨玄感叛乱只是一个孤立事件，完全是杨玄感的野心在作祟。所以他采用了简单粗暴的处理方式，不但诛杀参与叛乱的贵族，而且连同领过赈粮的百姓都坑杀，以为大开杀戒就能杀一儆百，结果又错失了一次拯救王朝命运的机会。
要说还是老臣苏威看得远，杨广听到杨玄感造反的消息，很是紧张，询问苏威的意见。苏威说：“夫识是非，审成败，乃谓之聪明。玄感粗疏，必无所虑，但恐因此浸成乱阶耳。”意思是说，那些明辨是非、审视成败的人，才是聪明人。杨玄感粗鄙简单，不是聪明人，不必为他忧虑，但是这恐怕会成为出现祸乱的开头。苏威实际上是在旁敲侧击，让杨广正视王朝的危机，不要使小祸乱发展成为无法收拾的大祸乱。
杨广只听懂了前半句，没真正明白后半句的意思，他的心里一直想着高句丽。连续两次没有拿下高句丽，使得他就像一个输红眼的赌徒，恨不得把所有的赌注押上。但是他忽视了如今的形势和第一次出征时已不可同日而语，第一次征讨失败便开始有民众造反，现在已经呈现星火燎原之势。
最早揭竿而起的是一位叫作王薄的人，大业七年(611年)，他聚集农民在长白山起义。这个长白山是山东的邹平地区，而非众人皆知的吉林长白山。王薄自称为“观世郎”，意为能预知天下局势将发生变化。还创作了一首《无向辽东浪死歌》，歌词写道：“长白山前知世郎，纯着红罗绵背裆。长槊侵天半，轮刀耀日光。上山吃獐鹿，下山吃牛羊。忽闻官军至，提刀向前荡。譬如辽东死，斩头何所伤？”最后一句的意思是相比较到辽东战场上白白送死，被官军砍掉脑袋又算得了什么，号召百姓不要去白白送死。这首诗流传甚广，虽然没过多久，王薄领导的起义被镇压下去，但却点燃了第一颗火种。
紧接着平原(今山东陵县)刘霸道、鄃县(今山东夏津)张金称、漳南(今河北故城东)孙安祖和窦建德、渤海(今山东滨州市西南)高士达、韦城(今河南滑县东南)翟让、章丘(今山东章丘西北)杜伏威等相继起兵。其余小股反隋武装不可胜数。
杨广对此并不当回事，在平定了杨玄感叛乱后，他执意三征高句丽，要将上次即将到手的胜利重新夺回来。大业十年(614年)二月，杨广召集文武百官，商议再次征伐高句丽的事宜。群臣对此的反应是沉默不语，史书上说“数日，无敢言者”，几乎所有人都意识到不能再出征了，但是没有一个人敢站出来进谏，因为他们知道这位帝王执意要做一件事，谁都不可能拦得住。更何况，有高颎等人的前车之鉴，惹了杨广不高兴，很可能脑袋搬家，最好的方式就是闭嘴。
既然没有人反对，杨广下诏再次征发天下兵，攻打高句丽，诏书中称：“黄帝五十二战，成汤二十七征，方乃德施诸侯，令行天下。”黄帝打了五十二场战争，成汤出征了二十七次，才获得成功，相比较而言，二次出征不算什么。言外之意，如果第三次还无法征服高句丽，那就第四次、第五次……
杨广还想着毕其功于一役，但他很快发现，形势完全不一样了。一方面此时天下已遍地都是“盗贼”，各郡县官员们都深陷于剿匪捕盗的泥潭中不能自拔，抽不出多少兵力来送往前线，所以此次征讨高句丽的规模小了很多。另一方面隋军士气低落，还没有走到涿郡，士兵们就开始纷纷逃亡，“士卒在道，亡者相继”，照这样下去，到了高句丽就没有多少兵马了。
杨广意识到了问题的严重性，走到临渝宫(今河北抚宁)时，他搞了一场大规模的祭祀活动，亲自上阵祭祀黄帝。为了起到警示作用，“斩叛军者以衅鼓”，把抓回来的逃兵斩首，将人血涂在一面大鼓上。效果如何呢？“亡者亦不止”，几乎没有效果。
由于逃兵不断，整个队伍的推进速度很慢。从二月出发直到七月，才到了怀远镇(今辽宁辽中)，距离高句丽都城平壤还有很长的距离，照这个速度，到了那里已经是秋冬季节，很难开战，估计又要无功而返，瞎折腾一回。
就在杨广犯难之际，来护儿率领的水军带来了意外之喜。他们在毕奢城(今辽宁大连金州区)击破一支高句丽军，成功登陆后迅速向平壤推进。高元见状害怕了，上次就险些被灭，亏得是隋朝后院起火。经过两次征伐，高句丽也打不动了，损失惨重，疲态尽显，听说隋朝大军又来了，思来想去，决定遣使投降，为了表达诚意，还将叛逃高句丽的隋将斛斯政送还回去。
杨广见到降表，非常兴奋，一直担心此次出征会无功而返，如今高元主动投降，算是挽回了面子。更何况盗贼四起，后方不稳，他决定顺势而为，见好就收。没想到，来护儿不干了，在他看来，这是灭掉高句丽的最好时机，更何况上两次出征搞得他非常郁闷。于是，来护儿找来诸将说：“大军三出，未能平贼，此还不可复来。劳而无功，吾窃耻之。今高丽实困，以此众击之，不日可克。吾欲进兵径围平壤，取其伪主，献捷而归。”准备继续进攻，生擒高元，灭掉高句丽。
来护儿手下长史崔君肃劝他应奉诏还师，但来护儿还是坚持自己的意见，他说：“将在外，君命有所不受。我宁可俘获高元返回而受到责罚，也不能放弃这次成功的机会。”崔君肃看到劝不动来护儿，转而对诸将说：“若从元帅，违拒诏书，必当奏闻。”如果听从来护儿的，就是违抗皇命，一定要奏明皇上，纷纷劝说来护儿见好就收，并且都表示不愿打了，来护儿只能长叹一声下令撤军。
大业十年(614年)八月，杨广从怀远镇班师回京，第三次远征高句丽落下了帷幕。
令人尴尬的是，隋军班师回京路上遇到了意外，当大军走到今天河北邯郸时，一支由杨公卿率领的八千人的义军早已等候多时。等隋军大部队过去后，八千人突然袭击了后卫部队，抢了几十匹御马扬长而去，连皇帝的队伍也敢打劫，可见当时天下已经混乱到了什么程度。
杨广回到京城后，已经临近了大业十一年(615年)的新年，他召高元入朝参加新年藩国的觐见仪式，但高元却无动于衷。这搞得杨广相当没面子，三次征伐，劳民伤财，就是为了让高句丽彻底臣服，但高元违背承诺，又一次对杨广啪啪打脸。杨广先是把愤怒发泄到叛将斛斯政身上，下令将斛斯政绑在柱子上，让群臣将其乱箭射死，然后千刀万剐，还要求群臣分食其肉。吃人肉极其恶心，但大臣们为了表忠心，一个比一个吃得来劲，到后来居然一片不剩。如此还不解气，杨广生气，“敕将帅严装，更图后举”，下令将帅们做好准备，想着再次征讨高句丽。
只是真的打不动了。三征高句丽对于隋朝是灾难性的事件，已经耗尽了几乎所有的资源，从根本上动摇了杨广的统治。究其原因，消耗实在是太大了，直接或间接参与人数高达三四百万，各种频繁苦重的徭役更是难以计算。在此之前，虽然营建东都、开凿大运河、南下江都、北巡边塞也耗费了大量的人力物力，但与三征高句丽相比，简直就是小巫见大巫。
这场战争几乎影响到王朝的每家每户，《隋书》里说“天下死于役而家伤于财”，天下人死于劳役，每家都耗损财物。先是耗尽了中原地区的人力物力，接着又波及到了江南地区，从南方征调兵源北上涿郡服役。同时需要从江南运送大量粮食到前线，由于牛车被征调完，只能征调三十万人力小车运送物资，而这种小车只能载米三石，但却需要两个人推着前进，从江南到辽东，路途漫漫，导致许多车夫不堪忍受而四处逃亡。
三征高句丽给天下百姓带来了深重的灾难，百姓或在疆场战死或因劳役而死，虽然有三分之二的人死而不归，但每年还是要征发役夫，每家每户平民的子弟，大多开赴战场，骨肉分离的哭声，各个地方都能听到。更有甚者，“重以官吏贪残，因缘侵渔”，不少官吏趁火打劫，鱼肉百姓，更是雪上加霜。
征战给百姓带来深重苦难的同时，对生产力也造成了极大的破坏。大部分青壮劳力被征发，导致“耕稼失时，田畴多荒”，大量的田地因无人耕种而撂荒，粮食产量急剧下降，许多人都填不饱肚子，以至于“宫观鞠为茂草，乡亭绝其烟火，人相啖食，十而四五”。百姓实在活不下去，只能揭竿而起，“百姓困穷，财力俱竭，安居则不胜冻馁，死期交急，剽掠则犹得延生，于是始相聚为群盗”。不造反是死，造反反而有可能活命，所以义军蜂起。
杨广并没有因此反思自己的过错，反而一味用严刑酷法来镇压，他下诏说：“天下窃盗已上，罪无轻重，不待闻奏，皆斩。”对反叛者实行株连，胆敢参加叛军的，就杀他全家。樊子盖镇压汾、晋间起义军时，大肆烧杀；王世充镇压刘元进领导的起义军时，一次坑杀了三万人。但是屠杀只能激起人民更大的愤怒，“百姓怨嗟，天下大溃”，起义队伍越来越多、越来越强大，留给杨广的日子不多了。