如何实现大兴呢？隋文帝认为重点在内政上。虽然篡位成功，控制了朝局，但从长远看，要想实现长治久安，关键还在于人心向背。如何能得到民心，最简单的方法就是减轻百姓负担。
在这一点上，苏威和隋文帝想到了一起。苏威的父亲苏绰曾担任西魏的度支尚书，是打理国家财政的行家里手，宇文泰时期的经济政策和赋税制度都是苏绰操盘设计的。不过，苏绰对自己制定的政策并不满意，觉得百姓的负担还是很重，但这又是没有办法的事情，因为西魏底子薄，又要四处征战，特别是接连和东魏发生大战，如果没有较重的赋税作为保障，西魏根本无法支持，想必早就垮台了。苏绰对此心里很清楚，所以感叹道：“今所为者，正如张弓，非平世法也。后之君子，谁能弛乎？”我所做的事，就如同拉满了弓弦，不是平常时代的法令制度，后世的君子，谁能让这张弓稍微放松点呢？
苏威深深记住了这句话，决心成为父亲所说的“后世君子”，于是他向隋文帝建议“奏减赋役,务从轻典”，具体做法是：“初令民二十一成丁，减役者每岁十二番为二十日役，减调绢一匹为二丈。周末榷酒坊、盐池、盐井，至是皆罢之。”这里面包含四项惠民措施：一是将成丁的年龄提高了三岁。成丁就是成年，意味着可以分得田地，同时意味着开始要缴纳赋税，提供劳役。父亲苏绰制定的政策规定成丁的年龄是十五岁，后来北周上调了三岁，到了十八岁，这次又上调三岁，大幅减轻了百姓负担。二是向国家提供的无偿劳役从每年一个月减少到二十天，减少了三分之一，使百姓可以有更多的时间忙于自己的生计。三是向国家缴纳的纺织品数量由一匹变为了两丈，一下子减少了一半。四是免除酒税和盐税，这对于从事工商业者来说是个重大利好。
隋文帝对苏威的建议全部采纳，这些与民让利的政策自然得到了百姓的拥护，对于普通民众而言，其实并不关心皇帝是姓宇文还是姓杨，他们只想过上好日子。因此这一系列扶助民生的举措出台后，这个新生王朝很快便得到了百姓的拥护。
隋文帝就此更加重用苏威，让他和高颎一道掌控朝政。在新的岗位上，苏威发挥了更加积极的作用。他看到宫中的帷帐都是用白银制作的钩子，觉得实在太奢侈了，于是规劝隋文帝要讲究节俭，还讲了历史上不少正反两方面的例子，搞得隋文帝脸色都变了，下令将银钩都换成铁钩。
虽然苏威生性谨慎，但或许是因为受到恩宠，胆子变得大了起来。有一次，有位官员不知何事得罪了隋文帝，隋文帝大怒下令杀他。苏威觉得杀掉此人于法无据，于是进宫进谏，当时隋文帝正在气头上，根本听不进去，说什么都不同意放了他。苏威见状居然用身体挡在了隋文帝前面，隋文帝绕了过去，苏威又站在其前面，搞得隋文帝非常生气，拂袖回到宫里。过了一会儿，他冷静了下来，觉得苏威做得对，于是出来对苏威说：“公能若是，吾无忧矣。”你能够这样做，我就没有什么可担忧的了。
隋文帝觉得对苏威没有看走眼，此人不仅有大局观，非常善于搞经济，还敢于直言，能够让自己不做错事。于是，更加重用他，不久任命苏威兼任大理卿、京兆尹、御史大夫，再加上原来的纳言和度支尚书，居然一人身兼五个要职。
木秀于林风必摧之，终于有人看不惯了！
御史梁毗上书弹劾苏威，理由是他身兼多职，贪念权力，丝毫没有举贤替代自己的意思。言外之意是苏威应该谦逊一些，主动将兼任的职务让与别人。梁毗的这个由头完全站不住脚，因为这些职务是隋文帝加封的，又不是苏威主动索要的。
隋文帝觉得必须站出来表明态度，他诘问梁毗道：“苏威从早到晚兢兢业业，胸怀远大志向，虽然举荐贤能方面有欠缺，但怎能如此急迫地逼他呢？”转而对群臣说：“苏威不值我，无以措其言；我不得苏威，何以行其道？杨素才辩无双，至若斟酌古今，助我宣化，非威之匹也。”苏威不遇上我，没法说出他想说的话；我得不到苏威，怎么能推行我的政策？杨素辩论口才天下无双，但如果要参照古今，帮我教化百姓，就不能与苏威相比了。又说：“苏威若逢乱世，南山四皓，岂易屈哉！”这里的南山四皓是汉初的四位奇人，连汉高祖刘邦请他们出山，都不为所动。就是说苏威如果遇上乱世，一定会像南山四皓一样，哪里能轻易请得动他。
隋文帝对苏威评价太高了，史书上说“其见重如此”，为了打消群臣的疑虑，有些将苏威捧上天的嫌疑，朝中第一人高颎很聪明，见到如此情形，觉得应该主动让位，让苏威接替自己坐朝臣的第一把交椅。
隋文帝面对高颎的请求，处理得很巧妙，他先是同意解除高颎仆射一职，不过这样做并非真的让苏威代替，而是为了成就高颎让贤的美名。几天后，隋文帝说：“苏威在前朝隐居山里，全靠高颎举荐。我听说举荐贤能的人应该得到最高的奖赏，朕怎能让他辞去官职呢？”因此下诏让高颎官复原职。
隋文帝在宠信苏威时，同时注意不冷落高颎。高颎时常在朝堂北边的一棵槐树下处理公务，由于槐树碍事，主事要砍伐，隋文帝下令不能砍，原因只有一个，那便是高颎喜欢在树下办公，必须为他留着。
如此一来，隋文帝做到一碗水端平，不仅没有引发两位重臣之间的倾轧，反而使得两人同心协力为他效命。隋文帝注重发挥他们的所长，朝中大事无不与他们商量后再实施，在君臣的共同努力下，隋朝呈现出一种崭新的气象。
隋文帝在高颎和苏威的辅佐下，内政渐渐步入正轨，他开始将目光转向了外患。当时的形势很明朗，南边有梁朝隔江而望，北边则是突厥经常袭扰边境，相比较而言，突厥的威胁更大更直接，隋文帝决定采取“先北后南”的策略。
突厥是盘踞在今天我国内蒙古、蒙古国一带的游牧民族，兴起之前，突厥部落是柔然汗国的臣属，在中原的史册中首次见到突厥是在公元540年。后来突厥脱离柔然，发展壮大，并多次击败柔然，成为又一个北方草原霸主，建立了幅员广阔的突厥汗国。
突厥的不断壮大，有一个很重要的因素，就是当时北方正处在北周北齐对峙时期，两边为了消灭对方，争相讨好突厥，采取纳贡、和亲等政策，希望突厥能够站到自己这边，或者至少保持中立，不帮着另一方来收拾自己。突厥两边都交好，收取两份份子钱，变得越来越强大。他钵可汗为此得意地说：“但使我在南两个儿孝顺，何忧无物邪？”南方的两个儿子争相孝顺我，还愁没有财物吗？
隋文帝登基后，一改此前北周、北齐对突厥的态度，表现得很冷淡，停止了进贡，这让长年习惯吃红利的突厥感到很不爽。再加上如今突厥的大可汗沙钵略的夫人是北周赵王宇文招的女儿千金公主，与隋文帝有不共戴天的杀父之仇，因此经常给沙钵略可汗吹枕边风，让他替自己报仇。沙钵略被说动了，对属下说：“我周家亲也。今隋公自立而不能制，复何面目见可贺敦乎？”可贺敦指的就是千金公主，是突厥人对大可汗夫人的尊称，这句话的意思是：我是周室的亲戚，现在隋文帝代周自立，而我却不能制止，还有何面目再见我的可贺敦呢？
开皇二年(582年)五月，沙钵略可汗下令突厥全线出击，突破长城南下。隋文帝急令边防加强戒备，下令柱国冯昱驻守乙弗泊(今青海乐都西)，兰州总管李长叉镇守临洮，上柱国李崇驻守幽州，进行全线防御。突厥骑兵来势汹汹，隋军不少据点被接连攻破，特别是在西线战场，屡战屡败，非常被动。隋文帝见状派内史监虞庆则前往弘化(今甘肃庆阳)担任西线总指挥。虞庆则到任后，下令让行军总管达奚长儒率部出击。没想到，达奚长儒刚离开弘化，就在周槃遭遇到了沙钵略率领的主力，由此发生了最为惨烈的一仗。
双方实力相差悬殊，突厥有十万之众，而隋军只有两千人。达溪长儒阵前发表慷慨激昂的演讲，让手下消除恐惧感，带着隋军且战且走，几次被突厥军队冲散，但很快又重新集结，拼死抵抗，居然坚持了三天，打到最后大部分武器毁损，只能以拳头作为兵器与突厥军厮杀，以至于手上的骨头都露出来了。突厥兵损失上万人，士气低落，解围撤退。达奚长儒身上受伤五处，被刺透的有两处，手下将士十之八九战死战伤。
战报传回京城，隋文帝深受感动和鼓舞，下诏表示说：“达奚长儒受任于北边边塞，遏制胡人，他所率领的人马很少，差不多只是突厥人的百分之一。他日以继夜，四面抗敌，共打了十四仗，所向必克。胡人被杀的超过了一半。暂未被杀的，丢了魄魂似的逃走了。如非达奚长儒英勇奋发，对国家有很深的感情，士卒又服从命令，怎能以少破众？像这样英勇的将领，应该授他高官厚禄，可授他上柱国，另授他一子为官。其阵亡的将士，都追赠官阶三级，让他们的子孙承袭。”
隋文帝不甘心被动挨打，决心进行反击。自五胡十六国以来，中原政权和北方少数民族开战基本没有赢过，隋文帝有这个底气，一方面来源于达奚长儒，他带着两千人居然打退了十万人，让隋文帝觉得突厥骑兵也就那么回事，不是不可战胜的；另一方面是隋文帝手下有个叫作长孙晟的大臣，此人曾作为使者，护送千金公主到突厥，并在那里滞留了一年多，对突厥的情况知根知底，了然于胸，使他心里有了底数。
长孙晟是隋文帝发现的人才。此人是贵族子弟，生性通达聪慧，略涉书史，善于弹丸和射箭，矫捷过人。十八岁的长孙晟任司卫上士，默默无闻，没有人知道他的才干，当时只有随国公杨坚看出此人不凡，曾牵着他的手对别人说：“长孙郎武艺超群，刚刚跟他说话，又发现他有令人称奇的谋略，假以时日，未来的名将难道不是他吗？”
长孙晟第一次出使突厥，是担任和亲副使，护送千金公主到突厥王庭。北周曾先后派数十名使者前往突厥，但沙钵略可汗大多轻视，不予礼遇，唯独对长孙晟特别喜爱，经常与他一起游猎。在此过程中，诞生了“一箭双雕”这个成语，有一次他随沙钵略可汗出猎，遇到两只雕飞着争肉吃，沙钵略可汗给长孙晟两支箭，说：“请将它们射落。”长孙晟于是弯弓射去，正遇双雕相夺，他一发而射穿两雕。沙钵略可汗大喜，对长孙晟高超的箭术十分钦佩，让各位子弟贵人都与长孙晟亲近，学习其射箭的本领。
长孙晟是一个有心人，除了与沙钵略交往外，他还非常注重结交有权有势的突厥高层。沙钵略可汗之弟突利可汗处罗侯威望很高，遭到沙钵略可汗的忌恨。处罗侯便密派心腹，暗中与长孙晟结盟，这为以后分化突厥内部打下了基础。长孙晟还利用游猎之机，考察突厥山川形势、部众强弱。长孙晟回到北周后，把突厥的情况详细地告诉已出任北周丞相的杨坚，杨坚听后大喜，于是升任他为奉车都尉。
在隋文帝谋划反击突厥的时候，长孙晟上了一道奏疏，表示突厥最大的问题就是内部分裂，因为突厥有五个可汗，第一个是沙钵略可汗，名叫摄图；第二个是第二可汗，名叫庵罗；第三个是阿波可汗，名叫大逻便；第四个是达头可汗，名叫玷厥；第五个是沙钵略的弟弟突利可汗，名叫处罗侯。
突厥可汗之所以一分为五是因为开皇元年(581年)，他钵可汗病逝了。他原本想让侄子大逻便为新的大汗，但内部发生纷争，大逻便败下阵来。另一个侄子摄图继承了汗位，便是沙钵略可汗。但是，摄图虽然成了新可汗，但地位并不稳固，不得已下令将大逻便封为阿波可汗，又将陀钵可汗的儿子庵罗封为第二可汗，再加上已经有的达头可汗和突利可汗，于是就有了五个可汗。
长孙晟说这五位“各统强兵，都号可汗，分居四面，内怀猜忌，外示和好，对他们难以力征，容易离间”。然后详细分析了突厥内部的情况，指出沙钵略可汗虽为大可汗，但兵力不如达头可汗，将来必有内战，而阿波可汗、突利可汗又都与沙钵略可汗貌合神离。基于这样的情势，长孙晟提出了“远交近攻、离强合弱”的策略，具体说来就是联络西边的达头可汗和阿波可汗以及东边的突利可汗，孤立沙钵略可汗，等到十多年后突厥内乱再来讨伐，就可以一举消灭突厥。
隋文帝看完上奏大喜，立即召见长孙晟，更让他惊喜的是，长孙晟口述形势，手画山川，对突厥的虚实、地形和兵力部署都了如指掌，隋文帝听后对他赞叹不已，采纳了他的全部计谋。
隋文帝派遣太仆元晖西出伊吾(今新疆哈密)，拜访达头可汗，特赐狼头纛，就是用狼头作标志的大旗。突厥以狼为图腾，隋文帝赐狼头纛给达头可汗，表达敬意的同时，暗示着愿意支持达头可汗成为突厥的大可汗。与此同时，又令长孙晟东出黄龙道，携带大量钱财，赐予奚、霫、契丹等部族，让他们当向导，到达突利可汗处罗侯的住处，说服他内附隋朝。为了使离间计成功，在达头可汗派使者回访时，隋文帝故意将其使者处在沙钵略可汗的使者之上，沙钵略可汗与达头可汗之间果然发生猜疑。如此一系列操作，使得突厥内部受到分化，“反间既行，果相猜贰”，沙钵略可汗变得孤立起来。
时机逐渐成熟，开皇三年(583年)四月，突厥再次大举入侵隋朝，隋文帝命卫王杨爽、河间王杨弘、上柱国豆卢勤、秦州总管窦荣定等八人为行军元帅，率军分八路反击突厥。他下诏阐明了出兵的理由，表达了几个意思：一是过去北周、北齐相互对立，为了避免两线作战，只能与突厥搞好关系。二是如今隋朝建立，不能再继续向其进贡，把节省下来的钱转赐将士和百姓。三是突厥不知好歹，倾巢而出，大肆攻击北部边疆，为了保家卫国，必须予以反击，这叫作不作死就不会死。四是此次出兵不单单是讨伐，更重要的是给突厥人一个大大的教训，要让突厥“不敢南望，永服威刑”，彻底把他们打服。五是此次作战原则是投降的一律收容，抵抗的一律处死，而且不要深入突厥腹地，力求速战速决。
第一场遭遇战发生在杨爽和沙钵略之间，双方在白道(今内蒙古呼和浩特西北)遭遇，杨爽听从手下将领建议，趁突厥军队立足未稳，发动了“闪电战”，突厥军大败，沙钵略可汗丢盔卸甲，士兵死伤大半。
第二场大胜来自于窦荣定，他率军在高越原(今甘肃民勤西北)和阿波可汗相遇，此战涌现出一个能征善战的将才——史万岁。
史万岁是个奇人，父亲史静任北周沧州刺史，他年轻时就擅长骑马射箭，勇猛凶悍，敏捷如飞，并且喜读兵书，还精通占卜。他十五岁那年，随父亲参加了北周、北齐间的邙山大战，他登高观察战场形势，料定北周军将败，并令左右换装离去。不久，北周军果然大败，父亲史静因此对他的战场感知力感到十分惊奇。后来，他跟随梁士彦参加了征讨尉迟迥的战斗，表现得非常英勇，平叛后晋升为大将军。
隋朝建立后，大将尔朱起兵造反，兵败被杀。史万岁因此受到牵连，军职被一撸到底，发配到敦煌，成为一个戍边的劳改犯。从将军到罪犯，可谓从天堂滑到了地狱。但史万岁并没有自暴自弃，当时敦煌戍边的头目非常勇猛，常常单独一人骑马深入突厥部落中，掠夺羊马，总有收获。突厥无论多少人，没有敢抵挡他的。因此戍主颇自负，看到史万岁不顺眼，经常辱骂他。
史万岁表示论骑射自己也不差，戍主令其驰射，看他果然很有功底，史万岁请求骑马带弓，深入突厥中掠夺羊马，很快抢获大批牲畜回营。从此，戍主对他刮目相看，两人经常同行，深入突厥境内数百里，名振边关。
窦荣定率军到达高越原，与阿波可汗的队伍交战几次，虽有胜绩，但很难彻底消灭对方。此地地处沙漠地带，饮水成了很大问题，士兵们只好刺马饮血当水，军中开始蔓延疾病，情况非常危急。就在此时，史万岁自投军门，请求立功赎罪。窦荣定早就听说他骁勇无比，于是想出一条计策，窦荣定派人向突厥提出：“士兵有什么罪过，何必让他们互相残杀呢？只在两军中各选一位勇士决斗比个胜负吧！”
阿波可汗觉得自己手下的勇士更厉害、胜算更大，于是不假思索便答应了。他派出营中第一猛将，而窦荣定派出的便是史万岁，本来以为这是势均力敌的对决，双方将士等着看一场精彩大戏，但还没搞清楚怎么回事，突厥猛将的头颅已经被史万岁砍了下来。“突厥大惊，不敢复战，遂引军而去。”史万岁一战成名，将功补过，不仅被免除了原有的罪罚，而且连升数级，被授上仪同，兼车骑将军。
史万岁的神勇表现，不仅让突厥军队不敢再战，也给了在窦荣定军中担任偏将的长孙晟离间阿波可汗绝佳的机会，他派人对阿波可汗说：“摄图(沙钵略可汗)每次来打仗，都获得很大的胜利。你才到内地，就被打败。这是突厥人的耻辱，难道你心里不惭愧吗？而且摄图与你的兵力本来差不多。如今摄图天天取胜，被众人推崇，你出师不利，为国家带来耻辱。摄图肯定会把罪过归结到你头上，完成他长久以来隐藏的阴谋，消灭你这一支。请你好好想一想，你能对付得了他吗？”
长孙晟说这些话很有针对性，因为他知道阿波可汗和沙钵略可汗素来不和，因为阿波可汗原本是他钵可汗最中意的继承人，但由于他母亲出身低贱，所以大可汗的位置被沙钵略抢了去。
阿波可汗觉得长孙晟说得有理，于是派使者来隋军大营接洽，长孙晟对使者说：“现在，达头已与我大隋联合，但摄图却拿他没办法。你家可汗何不依附大隋天子，连结达头，互相联合，成为一个强大的集团？这是万全之计。何必损兵折将，自讨苦吃，屈服于摄图，受他的凌辱和杀戮呢？”长孙晟的一席话使得阿波可汗如醍醐灌顶，全盘接受长孙晟的建议，派使者到大兴城觐见隋文帝，表达臣服之意。
再说沙钵略可汗，他被杨爽击败后，只能向沙漠败退，途中听闻阿波可汗暗通隋朝，勃然大怒，率部袭击北方王庭，俘虏阿波可汗的部众，并杀死阿波可汗的母亲。搞得阿波可汗无家可归，只能向西投奔达头可汗。
达头可汗和沙钵略可汗一直有矛盾，于是借兵十余万给阿波可汗，痛击了沙钵略可汗，不仅收复了故地，而且屡战屡胜。沙钵略可汗在隋朝和阿波可汗的双重打击下，由强变弱，失去了还手之力，只能狼狈向东逃窜，突厥正式分为东、西两大集团，这对于隋朝抗击突厥具有划时代的意义。长孙晟所提出的内部分化突厥的想法终于变成了现实，几位可汗相互厮杀，都派出使者请求隋朝支持，隋文帝可以坐山观虎斗，收取渔翁之利。
曾经不可一世的沙钵略可汗不得不低头，派人向隋朝求和。当年力主出兵为自己报仇的千金公主，竟然主动请求改姓杨，做杨坚的女儿，这样的变化简直是天翻地覆。柏杨先生对此评价道：“千金公主宇文女士跟杨坚之间有灭族仇恨，竟然委曲求全，认贼作父。杨坚改封她为大义公主，应指的是大义灭亲。大义竟然如此颠倒，也只有政治上才会出现。千金公主这个巨大改变，我们可以体会她锥心的痛苦，形势比人强，可悲！”
这还不算什么，沙钵略给隋文帝写的信更为肉麻：“你是我妻子的父亲，也就是我的岳父。我是你女儿的丈夫，也等于是你的儿子。两国的风俗习惯虽然不同，但情义却是一样的。自今以后，子子孙孙，乃至千秋万代，亲上加亲，永不开战。”
既然沙钵略可汗如此低三下四，隋文帝顺水推舟，接受了他的请求。隋文帝并没有想彻底消灭沙钵略，因为留着他，突厥内部会保持平衡，还会陷入分裂局面，这对隋朝无疑是最为有利的。
隋文帝派遣尚书左仆射虞庆则出使突厥汗国，并让突厥外交专家长孙晟作为副使。他们到达突厥后，没想到沙钵略可汗又摆起了威风，不仅炫耀军威和财物，在接诏书时还以身体不适为由不行跪拜之礼，并且告诉虞庆则，从自己上辈开始，就不再下跪行礼。
虞庆则非常生气，斥责沙钵略可汗。千金公主此时站出来威胁说：“可汗豺狼性，过与争，将啮人。”沙钵略可汗是财狼的性格，如果胆敢冒犯，什么事都可能做得出来，双方针锋相对，局面陷入了僵持。
长孙晟看不下去，对沙钵略可汗说：“可汗和大隋皇帝都是天子，您不起身，能说得过去。但您夫人是隋朝皇帝的女儿，可汗就是大隋的女婿，为什么如此无礼不尊敬岳父呢？”这席话搞得沙钵略可汗无言以对，只得说：“岳父还是要拜的，我就拜吧。”
第二年，沙钵略可汗正式向隋朝请和称藩，称：“天无二日，土无二王，大隋皇帝，真皇帝也。”就这样，通过软硬兼施，隋朝北部边患基本消除，为此后隋军南下灭陈，一统天下解除了后顾之忧。对于一个建立不到三年，且还没有实现完全统一的王朝而言，战胜不可一世的头号强敌突厥，可以说是一个不小的奇迹。
隋朝由守转攻，最终笑到最后，关键在于隋文帝采取了正确的策略，听从长孙晟的建议，利用突厥内部矛盾进行分化瓦解，然后集中优势兵力各个击破。如果突厥是铁板一块，想必隋朝很难撼动它。打败突厥展示了这个新王朝的崭新气象，也是隋文帝带领隋朝走向鼎盛的开始。
就在隋文帝忙着收拾突厥时，内部却出现了一个小插曲，发生了一起谋反未遂事件，引发事件的三位主角名头都很大，分别是刘昉、梁士彦和宇文忻。刘昉是隋文帝上台专权的头号功臣，隋朝建立后，隋文帝给了他优厚的待遇，封其为舒国公，虽然地位很高，但没有任何实权，他心里感到愤懑不平。
梁士彦是在北周时期便已赫赫有名的大将，守卫晋州一战天下闻名，为灭掉北齐立下了头功，后来随韦孝宽平定三总管之乱，作为先锋，所向披靡，事后被隋文帝任命为相州刺史。但或许是因为他太能打了，使得隋文帝对他有所忌惮，不久将其召回京师，削去兵权后给了很好的待遇，让他闲居在京城。
宇文忻也是一员猛将，屡立战功，特别是在平定尉迟迥叛乱中，在韦孝宽败局将定时，正是宇文忻急中生智，攻击围观群众，一举扭转了战局。平叛之后，杨坚对他大为赞扬，说：“尉迟迥倾山东之众，动百万之师，而你屡出奇策，战无不胜，诚可谓天下英杰！”加封他为英国公。不过，宇文忻总是担心杨坚会采取鸟尽弓藏的手段对付功臣，言语间多有流露，杨坚听到后非常不爽，找了个由头将其免职。
三个无所事事的闲人经常聚在一起喝酒聊天，彼此发发牢骚，吐槽对隋文帝的不满。如果仅此而已，充其量不过是大不敬，但后来事情的性质发生了变化。三人居然密谋计划推翻隋文帝，拥立梁士彦为新皇帝。已经年过七十的梁士彦确实有些老糊涂了，有算命先生曾经告诉过他，过了六十岁必能登上帝位，梁士彦真信了，本来能颐养天年，但膨胀的野心到头来将自己送上了断头台。
他们最初订立的计划是趁着隋文帝出京祭祀，让手下奴仆见机行刺。不过，如果细细想，这个想法简直就是儿戏，皇帝身边护卫如云，几个奴仆如何能下得了手？他们又想到了第二套方案，在蒲州起兵，然后以此为根据地，占黎阳仓，断河阳路，截取朝廷物资，招兵买马，以此和隋文帝抗衡。
三人经常在梁士彦府上喝酒密议，令梁士彦想不到的是，还没有起兵，刘昉利用到他家喝酒的机会和他老婆勾搭到了一起，给梁士彦戴了一顶结实的绿帽子。更让他想不到的是，隋文帝在他身边早已安插了耳目，此人是梁士彦的外甥裴通，他们的一举一动都在隋文帝的掌控中。
隋文帝不想让这场戏过早收场，一定要做到证据确凿，于是任命梁士彦回自己的大本营晋州担任刺史，同时接受梁士彦的推荐，同意他的心腹萨摩儿一同赴任。梁士彦等大喜，觉得一切都朝着有利于自己的方向发展。有了晋州做根据地，宇文忻、刘昉在京城做内应，大业可成，于是几人更加频繁地会面，商议具体的举事细节。
一直躲在幕后的隋文帝觉得是时候收网了。开皇六年(586年)八月，隋文帝召一些刺史回朝述职，梁士彦也在被召之列。在朝堂上，隋文帝突然下令拿下梁士彦、宇文忻和刘昉，责问他们为什么意图谋反。三人开始不承认，还想抵赖，隋文帝命萨摩儿上殿对证，萨摩儿“俱论始末”，将前后经过一一道来，还透露了一些细节，说：“梁士彦的二儿子梁刚流泪苦劝父亲不要谋反，三儿子梁叔谐却说‘做猛兽就要做兽中之王’。”这一下梁士彦无法狡辩了，脸色骤变的他对萨摩儿说：“是你杀了我啊！”
隋文帝下令将三人诛杀。临刑前，宇文忻看到老战友高颎，磕头请他为自己求情，刘昉大为鄙夷，唾骂宇文忻说：“事形如此，何叩头之有？”
隋文帝没有赶尽杀绝，毕竟这几位都是“开国元勋”，只杀了他们和正室所生的儿子。苦劝父亲不要谋反的梁刚被赦免。三人的兄弟叔族和妾所生的儿子都没有被杀头，而且被发配到荒蛮之地。为了充分发挥反面典型的警示教育作用，隋文帝身穿白色衣服亲临射殿，令百官用箭射梁士彦三家抄没的东西，搞这样颇有仪式感的举动，为的就是杀鸡给猴看。
三人中最后悔的恐怕应该是刘昉，想当初如果他不推举杨坚上台，想必也不会落到如此下场。相比较而言，当年另一个“关键”人物郑译的结局要好很多。和刘昉一样，郑译失宠后也曾经郁郁不平，心有不甘，暗地里请来道士拜表设祭，以祈求福分。结果被府中的奴婢告发，惹得隋文帝大怒，他对郑译说：“我没有对不起你，你这样做，是什么意思？”于是将其贬出京城，不久又将郑译废为庶民。
但与刘昉不同的是，郑译并没有因此心生反意，而是选择夹着尾巴做人。隋文帝后来原谅了他，重新使其步入官场，担任开府、隆州刺史，并让他参与制定律法。几年后，郑译以体弱多病为由，向隋文帝提出请求回京调养，得到了批准。回京后，隋文帝召见他并赐宴，对他说：“贬退你已经很久了，心里一直很挂念你，怜悯你。”于是恢复了沛国公的爵位和上柱国的官职。隋文帝对近侍说：“郑译与我同生共死，在我遇到曲折和危难的时候，他帮我说话，想到这些，我哪里能忘记他。”
郑译有一个特殊的才能，他精通音律，隋文帝便命他研究音乐，郑译编写了《乐府声调》进呈，得到隋文帝赞赏，此后经常召他谈音乐之事。隋文帝赞赏道：“律令是你制定的，音乐又是你校正的。礼、乐、律、令，你定了三种，的确值得赞美呀！”开皇十一年(591年)，郑译在岐州刺史任上去世，隋文帝派使者前去吊唁，谥号确定为“达”。
当年的“夺权三人组”，一个做了皇帝，一个被砍头，一个成了音乐家，命运的诡谲，不得不让人叹服。