隋文帝北降突厥，南平江南，在南征北战中，他没有忘记抓国家建设，取得了显著的成效。除了创建三省六部制，编制《开皇律》、改革地方权力机构等，隋文帝还在政治、经济、文化等方面采取了一系列举措，终于迎来一个属于他的盛世，历史上称作“开皇之治”。
历史上称得上“之治”的时代并不多，比较有名的是“文景之治”“贞观之治”。相对于这些盛世，“开皇之治”更为难得，因为“文景之治”先后经历了汉高祖、吕后、汉文帝、汉景帝七十多年的时间才取得这样的成就，而“开皇之治”仅仅用了二十年，如果从统一天下算起，只用了十一年。虽然“贞观之治”用时也不算长，但其经济成就无法和“开皇之治”相媲美。
之所以能够在短时间内形成“开皇之治”的奇迹，是因为隋文帝打出了一套“组合拳”，首先在经济上推出了极有针对性的“大索貌阅”和“输籍定样”两项举措。
自魏晋南北朝以来，国家的征税系统一直存在严重的漏洞，主要表现在两个方面。一个是诈老诈小，“是时山东尚承齐俗，机巧奸伪，避役惰游者十六七。四方疲人，或诈老诈小，规免租赋”。即明明是二十多岁的青年，却谎称自己是十三四岁的少年；明明是五十岁的中壮年，却谎称自己是七八十岁的老年，以此来逃避征收。另一个是隐匿户口。当时贵族豪强的势力非常大，不仅占有大量土地，还有不少人口依附他们。这些依附人口不到官府处登记户口，也就不向官府缴税，而是在贵族豪强底下私自登记户口，只向贵族缴纳一定的财税。由此国家能直接掌握的劳动力大为减少，地方豪强占有的人口却增多。有的豪强大族，一户之内有数十家，人数多达数万，搞得国家穷困，但大族豪强却富得流油，严重削弱了中央政府的力量。
针对这个突出问题，“高祖令州县大索貌阅，户口不实者，正长远配，而又开相纠之科。大功已下，兼令析籍，各为户头，以防容隐”。“大索貌阅”应运而生，所谓“大索”，即清点户口，并登记姓名、出生年月和相貌，目的在于搜括隐匿人口；所谓“貌阅”，则是将百姓与户籍上描述的外貌一一核对，目的在于责令官员亲自当面检查年貌形状，以惩治那些企图通过诈老诈小来逃避税收的人。若有胆敢在此中间营私舞弊者，则一律处以流放的重刑。
为了更顺利地推行这项制度，隋文帝下令规定凡出现户口不实的情况，地方官吏里正、保长、党长要被处以流刑。官方还鼓励百姓互相检举，并强令亲属关系远于堂兄弟者，一律析籍分户。这样让隐匿人口变得非常困难。
不过，这项举措虽然效果不错，但治标不治本。高颎认为出现大量人口依附豪强贵族，而不愿意在官府登记，是有深层原因的，说到底是利益在作怪。“人间课输，虽有定分，年常征纳，除注恒多，长吏肆情，文帐出没，复无定簿，难以推校。”中央朝廷对农民征收税赋是有标准的，但到了下面执行时变了味，地方官吏乘机“搭便车”，使得农民缴纳的赋税远远超过账面应交的，因此许多百姓转而投向豪强地主的怀抱。
针对这个问题，高颎推出了“输籍定样”，将百姓的户籍依照既定的样本分成上户、中户、下户，明确规定各级别的户籍应该缴纳多少税收。每户需要承担的租税明明白白，地方官吏不得横征暴敛，向百姓额外增加负担。同时规定上户多缴税，下户少缴税，对于家庭贫苦的人家征收的很少，远低于向地方豪强所缴纳的，农民一算账，觉得还是向国家缴纳更为合算，于是脱离豪强地主，转为朝廷的编户民。
政策虽好，但如何才能落地执行呢？“每年正月五日，县令巡人，各随便近，五党三党，共为一团，依样定户上下。”规定每年正月五日，由县令集合里正、乡长、党长输籍定样，决定每户的征课。自此以后，赋役根据人口状况由官府统一决定，地方官吏要在这上面做文章就很困难了。效果如何呢？“自是奸无所容矣”。
通过推行“大索貌阅”和“输籍定样”，把大量人口从豪族手里解放出来，极大扩充了国家掌控的人口，增加了国家赋税的收入，打击了豪强地主，加强了中央集权，而且减轻了民众的赋税负担，可谓一举三得。
开皇初年(581年)，隋朝户口仅三百八十万户，到大业五年(609年)增加到八百九十万户。在不到三十年的时间里，户口激增了一倍有余。再加上实行均田制，“自诸王以下，至于都督，皆给永业田，各有差。多者至一百顷，少者至四十亩。其丁男、中男永业露田，皆遵后齐之制。并课树以桑榆及枣。其园宅，率三口给一亩，奴婢则五口给一亩……京官又给职分田。一品者给田五顷，每品以五十亩为差……至九品为一顷。外官亦各有职分田。又给公廨田，以供公用”。几项政策结合在一起，产生了聚合效应，使得虽然实行轻徭薄赋，但国家税收却越来越多。
作为一个盛世，硬实力固然重要，但软实力同样不容忽视。在开皇初年，大臣牛弘上表说：“昔陆贾奏汉祖云，天下不可马上治之。故知经邦立政，在于典谟矣，为国之本，莫此攸先。”当年陆贾对汉高祖说马上得天下，但不能马上治之，要想把国家治理好，必须要充分吸取前朝的经验教训，而那些正反例子都在书里。
隋文帝觉得很有道理，但由于几百年的战乱，大量的文化典籍都在战火中被焚毁，出现了“书荒”。没有书怎么办呢？牛弘出主意说：
“不可王府所无，私家乃有。然士民殷杂，求访难知，纵有知者，多怀吝惜，必须勒之以天威，引之以微利。”虽然官方藏书被烧了不少，但民间私人手里的藏书还有不少，可以进行征集，但不能强取豪夺，国家需要给些好处，钱花到位了，藏书人觉得划得来，自然就会献出来。
提出这个建议的牛弘，本身就是关陇贵族中难得的读书人，尤其喜爱研究古籍、礼仪。虽然公务繁杂，但却手不释卷，有点“书呆子”的意思，为此还闹出一些笑话。有一次，隋文帝曾让他宣布口谕，牛弘走到台阶下面对大臣们时，突然忘了皇上说了什么，又退回拜见隋文帝说：“陛下刚才说的，我都忘了。”隋文帝哭笑不得说：“传语小辩，故非宰臣任也。”传几句话，这只是点小事，你都不行，看来你不是当宰相的料子。话虽这样说，但是很赞赏他的质朴正直，对牛弘的宠信日益增加。
隋文帝全盘采纳了牛弘的建议，下诏求书说“献书一卷，赉缣一匹”，献书一卷赏绢一匹，这是一个什么概念呢？隋朝实行的是租庸调制，“租”是指田租，“庸”是指劳役，“调”是百姓向官府缴纳的丝织品。当时的农民，一年的调是一匹缣，也就是说，给国家献一卷图书，一年的调就免了，这样的激励措施相当有吸引力。
更何况献书给朝廷只是暂时的，官府不会据为己有，而是会组织人力物力去抄书，抄完后原书完璧归赵。这对于民间的藏书人，简直就像天上掉下了一个大馅饼，“民间异书，往往间出”，献书的热情被极大地调动起来。“一二年间，篇籍稍备”，仅仅用了不到三年的时间，藏书的规模比原来整整扩充了一倍，原本闹“书荒”的隋朝的藏书量到后来居然成为中国历代藏书最多的王朝，藏书最多时有三十七万卷，七万七千多类。
隋文帝高度重视文化教育，“建国重道，莫先于学，尊主庇民，莫先于礼”，由上到下建立一整套教育体系。在中央层面，特设国子寺，作为教育体系中的最高学府。据记载，当时国子寺的学生多达上千人，呈现出欣欣向荣的景象。在地方上，设置了州县学校。
《隋书》中说：“于是四海九州强学待问之士，靡不毕集焉。天子乃整万乘，率百僚，遵问道之仪，观释奠之礼。博士罄悬河之辩，侍中竭重席之奥，考正亡逸，研核异同，积滞群疑，涣然冰释。于是超擢奇秀，厚赏诸儒，京邑达乎四方，皆启黉校。齐、鲁、赵、魏，学者尤多，负笈追师，不远千里，讲诵之声，道路不绝。中州儒雅之盛，自汉、魏以来，一时而已。”天下的知识分子都汇聚到京师，人们为了追求学问不远万里四处求学，隋朝的每一条道路上都能听到琅琅的读书声，这是汉魏以来从未有过的盛景。
除了大力修建学校，隋文帝还广泛宣传教化，他认为“治国之本，非礼不可”，要求各地官员号召百姓学习礼数，“去华夷之乱，求风化之宜”，目的是让天下人都“知礼节、识廉耻，父慈子孝，兄恭弟顺”，从而构建一个祥和安顺的社会。
隋文帝在尊崇儒学的同时，没有忘记当年抚育自己的智仙的嘱托，推出了包括度僧、建寺、造像、写经等一系列大规模复兴佛教的措施。他这样做，有个人信仰的原因，也有赢得民心的考虑。北周武帝宇文邕曾经发动灭佛运动，招致了广大信徒的不满，同时引发信教者更为强烈的宗教感情。隋文帝复兴佛教，得到广大佛教徒的衷心拥护，对于巩固统治无疑是非常有利的。
“治国先治吏”，一个王朝能够走向辉煌，很重要的是要有一支忠诚担当、干事干净的干部队伍，如果吏治腐败，王朝中兴只会是黄粱美梦，搞不好政权会迅速垮塌，历史上这样的教训很多。
隋文帝对此非常清醒，在吏治方面，除了知人善任外，他最大的贡献是在选拔人才上做了制度性的创新，对后世影响深远的科举制的原创版权就属于隋文帝。
开皇七年(587年)，隋文帝正式设立分科考试制度，具体的做法是规定各州每年向中央选送三人，参加秀才与明经科的考试，考试成绩优秀者，经过吏部的铨选就可以走上仕途。开皇十八年(598年)七月，又令京官五品以上、总管、刺史，以“志行修谨”“清平干济”二科举人，自此选官不完全问门第，逐渐取代魏晋以来的九品中正制，从一定程度上打破了“上品无寒门，下品无士族”的局面。
尽管在初创期的科举制度还很不完善，最初考试人员须由各州推荐，而不是考生们自由报考，多少还能看出以前察举制的影子。但有一个最重大的改变在于将读书和入仕变成了紧密的耦合关系，使得个人可以依靠学识而非完全靠门第来改变自身命运成为可能，这一改变极大激发了读书人的热情，产生了广泛而深远的影响。科举制从隋朝开始初创，直至清光绪卅一年(1905年)举行最后一科进士考试为止，前后经历一千三百余年，成为世界上延续时间最长的选拔人才的办法。
隋文帝在开创选人新机制的同时，还加强了对各级官员的监督和考核。他明白国家的政策能够得到有效执行，关键在于各级官员，因此在吏治方面，隋文帝下了很大心血，“初有天下，励精思政，妙简良能，出为宰牧”，确立的整体原则是“奖罚分明”。他曾说：“为政之要在得人，得人之要在公平，赏善罚恶，赏罚严明。”
隋文帝经常派中央官员到地方进行巡查，巡查官员既有身负监察职责的御史，也包括苏威、虞庆则等重臣。他们到了地方以后，要听取当地官员的汇报，还要察访民情，了解实际情况。这些巡查官员得到隋文帝的强力支持，大多表现得一身正气，能够做到秉公执法。例如，仁寿元年(601年)，辛公义奉命巡查扬州，当时担任扬州总管的是隋文帝的孙子豫章王杨暕。他担心辛公义查出问题而受到处罚，因此在辛公义还未进入扬州地界时，就赶来迎接，表现得非常热情，希望辛公义不要太较真，但被辛公义断然拒绝，到扬州后该怎么查就怎么查。
隋文帝还建立了“隐察”制度，即派亲信秘密探查京城内外官员的执政情况，严惩贪官污吏，使他们不敢贪赃渎职，不敢过分侵扰老百姓。这一招很厉害，因为隐察官员经常使用一些特别的方法，用种种借口向州、县地方官行贿，谁一旦接受贿赂，立刻处斩，决不宽贷。有时贪官在办案中明明接受的是老百姓的财物，但转眼之间，这些财物竟有皇家记号，原来是上了隋文帝派出的暗探的圈套，掉脑袋时已悔之晚矣。
隋文帝采取的力度相当之大，曾一次罢免河北五十二州贪官污吏两百人，用这种手段去铁腕反腐，确实极大震慑了贪腐官员，“吏治之整肃，不仅上裕国库，下纾民困，隋高祖在位时之隆盛，此亦为要因”。吏治得到很大改善，使得政治比较清明。
隋文帝在严惩贪官的同时，非常重视奖励那些体恤百姓、忠于职守的官吏，以此发挥正面导向作用。当时不畏权贵的辛公义被任命为岷州刺史，一到任上，发现当地有一个非常奇怪的风俗，这里的人特别怕鬼怕病，一人害病，全家不管病人全部跑掉了，病人得不到治疗和护理，大多死亡。辛公义就用自己的车子把无人照料的病人接到州府，请医生来治疗，自己日夜守护。病人一批批好了，辛公义也安然无恙。辛公义用自己的实际行动改变了岷州人的陋俗，病人的家属亲戚都十分感谢。隋文帝听了，当即赐与重赏，升他为并州刺史。
典型示范人物中最为隋文帝推崇的是新丰县(今西安临潼西北)县令房恭懿。他在隋朝首次官员政绩考核中名列京畿一带第一名，因此隋文帝对他大加赏赐，先后赏给他绢四百段、米三百石，房恭懿一点没留，全部分给了穷人百姓。这种亲民爱民的行为更增加了隋文帝的好感，特意在寝宫亲切接见房恭懿，向他请教治理之道，并且很快提拔他为泽州(今山西晋城)司马。不久，房恭懿又转任德州(今山东德州)司马。一年多后，房恭懿在德州的政绩考评又获全国第一。
房恭懿实在太给力了，这让隋文帝很有面子，在朝堂上当着全国各地进京述职官员们的面，大加表扬道：“房恭懿志存体国，爱养百姓，是当今天下模范，你们要好好向他学习啊！”接着又说：“房恭懿所在之处，百姓视之如父母，朕如果置之而不赏，上天宗庙一定会责怪我的啊！”随后提拔房恭懿为使持节、海州(今江苏连云港)诸军事、海州刺史。
令狐熙也是一个奉公守法、精明强干的良吏。隋文帝拜授他为沧州(今河北沧州)刺史。他在任几年，民风大好，在吏部考核时被称为好刺史。开皇四年(584年)，隋文帝幸巡洛阳，令狐熙来朝见，百姓担心他被调走，于是在路边痛哭挽留。到令狐熙又回沧州时，百姓出境迎接，在路上欢呼叫喊。开皇八年(588年)，他转任河北道行台度支尚书，沧州吏民追思他，立碑歌颂他的功德。
受到褒奖的还包括齐州的一个小官王伽，他带着一批民夫押送囚犯李参等七十多人去长安，走到荥阳时，王伽对囚犯说：“你们违反国法，理应受罚，但看着押送你们的民夫也跟着受罪，你们心安吗？”王伽决定遣散民夫，释放李参等人，约定好时间让他们在京城集合，并说：“到时你们有谁不来，那么我只好替你们受死罪了。”等到约定的那一天，七十多人全部到齐。隋文帝得知此事后十分惊喜，并立即召见王伽，对他大加赞赏。又召李参等人入宫，赐宴招待后全部免罪释放，并下了一道诏书，要求各级官吏向王伽学习，要施以宽政，以慈爱之心待民。
杨坚官严民宽的做法，收到了非常好的效果。官员们都知道了选人用人的导向，更知道了考核制度并非摆设，干得好的会被提拔重用，贪赃枉法或者不作为的会受到严惩。正是因为有这样的举措，隋文帝时期的官吏素质整体比较高。司马光在《资治通鉴》中评价道：“由是州县吏多称职，百姓富庶。”历史学家胡三省的话说得更直接：“开皇之治，以赏良吏而成。”
隋文帝自身更是为百官做了表率。他小时候生长于寺庙之中，素衣素食，生活节俭，这使他养成了崇尚节俭的品性。《隋书·高祖纪》说：“高祖大崇惠政，法令清简，躬履节俭，天下悦之。”如果搞个历代帝王节俭大排名，隋文帝应该可以名列前三甲。
隋文帝能够如此节俭，除了小时候的经历外，也与他长期生活在上层社会有关，他看到了上层社会奢侈糜烂的生活，不仅会消磨人的意志，同时还会激起民众的反对，最终导致国家灭亡。所以自从当上了皇帝，他就厉行勤俭节约，即位之初，就宣布“犬马服玩，不得献上”，这不是说说而已，而是真正要落实到位的。
关于隋文帝的节俭，史书上说：“其自奉养，务为俭素，乘舆御物，故弊者随宜补用；自非享宴，所食不过一肉；后宫皆服浣濯之衣。”隋文帝自己居住的地方布置得非常简单，不像别的皇帝那样，弄得富丽堂皇。所乘坐的车子都已陈旧，即使坏了，也不换新的，而是让工匠们修理修理，反复使用。他平时所吃的饭菜也较为简单，不过是几样菜肴。同时明确规定，每餐的荤菜只能有一样，多了就要撤掉，还要惩办违反规定的厨师。宫廷中的嫔妃也都穿着普通的布衣，不允许穿戴华丽娇艳的服饰，和寻常百姓家的女子并无异处。
因为隋文帝躬身厉行节俭，所以他底下的人都不敢造次。有一次，相州(今河南安阳)刺史觐见隋文帝的时候，为了讨好隋文帝进呈上好的绫罗锦缎。隋文帝看到这些锦缎十分生气，不仅呵斥了刺史，还下令将那些锦缎烧成了灰烬。上行下效，在隋文帝的带动下，整个社会都形成了节俭的风尚，一般士人，大多穿着布帛制作的服装，配饰也不过铜铁骨角之类，很少有人穿绫罗绸缎，更没有人佩金戴玉。
除了厉行节俭外，隋文帝的勤政也是出了名的，堪称皇帝中的“劳模”。“勤劳思政，每一坐朝，或至日昃”，一天大部分的时间都扑在工作上，从早到晚，不知疲倦。隋文帝还经常深入一线，路上遇到上书奏事之人，便驻马“亲自临问”，还经常派人到各地收集民情，“人间疾苦，无不留意”。
《资治通鉴》里讲了两个故事。开皇十四年(594年)夏，京师长安发生地震，关内各州大旱，百姓闹饥荒。隋文帝派遣左右侍臣察看老百姓的疾苦，看看百姓们每天吃啥？侍臣拿回百姓充饥的豆屑杂粮给他，隋文帝“流涕以示群臣，深自咎责”。他在朝堂上让文武百官逐一查看这些食物，觉得自己没有治理好国家，流泪痛责对不起百姓，宣布“膳不御酒肉”，坚持拒食酒肉近一年，以示与民同甘苦、共患难。
还有一次，隋文帝祭拜东岳泰山，发现关中地区到洛阳去寻讨食物的百姓，一路络绎不绝，到处都是。他命令军吏不准斥逐驱赶百姓，以致百姓参差错乱地走在他的仪仗卫队之间。遇到扶老携幼的百姓，“引马避之，慰勉而去”，立即牵着马避开，并慰劳一番才离去。走到艰险的地方，看到负重的百姓，立即叫身边的官吏去扶持帮助。
隋文帝这样做并非是做样子，而是发自内心的，对于九五之尊的皇帝而言难能可贵，所以史书评价道：“虽未能臻于至治，亦足称一代之良主。”隋文帝虽然没有达到作为皇帝的最好境界，也足以称得上是贤良君主。
在隋文帝的不懈努力下，外患渐平，政治稳定，生产发展，经济繁荣的“开皇之治”应运而生。
繁荣到什么程度呢？《隋书·食货志》记载：开皇十二年(592年)，有司上言，库藏皆满。帝曰：“朕既薄赋于人，又大经赐用，何得尔也？”对曰：“用处常出，纳处常入。略计每年赐用至数百万段，曾无减损。”于是乃更辟左藏之院，构屋以受之。下诏曰：“既富而教，方知廉耻，宁积于人，无藏府库。河北、河东今年田租，三分减一，兵减半，功调全免。”
这段话翻译过来是说：开皇十二年(592年)，有主管官员上奏隋文帝，说国库已经装满了，请求另外再扩建个国库，以容纳新征收上来的赋税。隋文帝觉得很不可思议，说：“我这些年一直在对老百姓减税，而且各方面开销支出又这么大，我还在担心国库空虚呢，怎么可能钱财多得堆不下？”官员回答道：“国库既有日常的开销，也有日常的收入，该花的钱一点都没少花，但国库收入的钱财更多，所以就是这么充盈。”隋文帝只好下令另外修建左藏院，以容纳新征收上来的税收，然后又颁发诏书说：“老百姓既然富裕了，就要推行教化，这样才能懂得礼义廉耻。宁可让钱财堆积在百姓家里，也不要收藏在国家的府库。河北、河东今年的田租减少三分之一，兵役减半，功调全免。”
这个盛世在开皇十七年(597年)达到了新的高度，史书上说：“户口滋盛，中外仓库，无不盈积。所有赉给，不逾经费，京司帑屋既充，积于廓庑之下，高祖遂停此年正赋，以赐黎元。”这一年因国库充盈，新上缴来的钱财布匹都已经装不下了，只能堆积在走廊上，隋文帝下令停止征收这一年的正赋，以赏赐百姓。到隋文帝末年时，“计天下储积，得供五六十年”。
虽然《汉书·食货志》记载汉武帝初年也出现了这样的繁荣景象，所谓“国家亡事，非遇水旱，则民人给家足，都鄙廪庾尽满，而府库余财。京师之钱累百巨万，贯朽而不可校。太仓之粟陈陈相因，充溢露积于外，腐败不可食”。但汉朝用了七十年才达到了这样的繁荣程度，隋朝仅仅用了二十年就完成了，堪称一个“经济奇迹”。
隋文帝在内政取得斐然成绩时，外交上却遇到了新的挑战。原因是开皇七年(587年)已经臣服的沙钵略可汗病逝了，由弟弟处罗侯接班，但只过了一年，处罗侯在西征西突厥时，不幸中箭身亡。由沙钵略可汗的儿子阿史那氏即位，称为都蓝可汗。依照突厥习俗续娶曾嫁给其父的原北周千金公主(后改名大义公主)为妻。大义公主虽然自称为隋文帝的干女儿，但在内心没有忘记杀父之仇，一直记恨着隋朝。
隋朝灭陈后，隋文帝把陈朝皇帝陈叔宝的屏风赐给大义公主，大义公主在屏风上写了一首诗，叙述陈朝的灭亡，寄托自己的情思。诗中写道：“盛衰等朝露，世道若浮萍。荣华实难守，池台终自平。富贵今何在？空事写丹青。杯酒恒无乐，弦歌讵有声。余本皇家子，漂流入虏廷。一朝睹成败，怀抱忽纵横。古来共如此，非我独申名。惟有明君曲，偏伤远嫁情。”
隋文帝读到大义公主所作的这首诗后，觉得她的国恨家仇还是如此强烈，由此很厌恶大义公主，赏赐越来越少。大义公主暗中与西突厥泥利可汗联合，隋文帝担心她挑动都蓝可汗与隋朝宣战，准备除掉大义公主。
开皇十三年(593年),有一个流浪到突厥的汉人杨钦声言自己是大义公主的姑母西河公主派来的心腹，西河公主与丈夫打算与突厥联合发兵，灭隋复国。报仇心切的大义公主信以为真，说服都蓝可汗同意发兵。都蓝可汗有些动心，当年他父亲被迫臣服，经过多年的休整，如今兵强马壮，可以和隋朝扳扳手腕，于是不再向隋朝进贡。
隋文帝为探听突厥动向，派长孙晟出使突厥。大义公主见到长孙晟后，言辞不逊，并派心腹安遂迦与杨钦计议，加快了煽动都蓝可汗反隋的节奏。长孙晟回京后据实汇报。隋文帝再次派长孙晟出使突厥，向都蓝可汗索要杨钦。都蓝可汗不愿交出杨钦，便谎称没找到这个人。长孙晟遂买通其帐下的达官，探知杨钦之所在，趁夜将其抓获，并带到都蓝可汗面前质问。适逢大义公主和安遂迦私通败露，这让都蓝可汗很没有面子，只好将安遂迦和杨钦等人拘捕，交给长孙晟带回隋朝，但他并没有因此废掉大义公主。
与此同时，统治突厥北方的突利可汗派遣使者来隋朝求婚。隋文帝命裴矩对突利可汗说：“只有杀掉大义公主，才答应求婚。”突利可汗不断向都蓝可汗诋毁大义公主，终于激怒都蓝可汗，在帐中把大义公主杀死。
都蓝可汗杀掉大义公主后，又向隋朝上表请婚，想再娶一个公主。这一请求按说合情合理，隋文帝准备答应，但长孙晟站出来表示反对，他的理由是都蓝可汗是反复无常之人，之所以请求联姻，是想着借隋朝的威名，收拾突利可汗和达头可汗，一旦强大后必然反叛，所以不能答应他的请求，倒不如与突利可汗和亲，用突利可汗来抗衡都蓝可汗。
隋文帝觉得长孙晟说得很有道理，全盘采纳他的建议，选了一个宗室之女封为安义公主，嫁给了突利可汗。为了离间两个可汗的关系，故意把这场婚礼搞得很隆重，不仅给了突利可汗厚重的赏赐，还派牛弘、苏威等重臣作为使者，这让突利可汗受宠若惊，也让求婚失败的都蓝可汗心怀愤恨，大怒道：“我是大可汗，反而不如染干(突利可汗)。”于是，宣布与隋朝断绝关系，并联合达头可汗经常骚扰隋边境。
都蓝可汗这样做恰恰给了隋文帝出兵的理由，开皇十九年(599年)二月，隋文帝任命汉王杨谅为元帅，左仆射高颎出兵朔州道(治所善阳，今山西朔县)，右仆射杨素出兵灵州道(治所回乐，今宁夏灵武西南)，上柱国燕荣从幽州(治所蓟县，今北京城西南)出兵，分三路进攻都蓝可汗。
杨谅名为主帅，但实际并未到前线，真正的指挥是杨素。都蓝可汗得知隋军来攻，与达头可汗结盟。四月，杨素军在灵州以北地区与达头可汗部遭遇。在此之前，隋将在与突厥交战时，因担心突厥彪悍的骑兵来往冲杀，都采用战车、骑兵和步兵相互交叉配合的阵法，阵外四周遍设鹿角、蒺藜等物，骑兵留在最里面，以防守为主。
杨素觉得这种战法太过保守，在他看来，进攻是最好的防守，于是决定改变战术，下令各军摆开骑兵阵势。达头可汗闻之大喜道：“这是天助我！”觉得隋军不自量力，完全是找死，率十余万精骑直扑隋军。但没想到隋军以一当十，完全杀红了眼，大败突厥，达头可汗重伤逃跑，部众死伤不可胜数。
杨素打仗确实是一把好手，审时度势，灵活机动，常常不按套路出牌，一仗打得比一仗精彩。
不过，都蓝可汗并不甘心，转过年的春天，他又联合达头可汗，集结十多万兵马，卷土重来。这次他们没有直接攻击隋军，而将矛头对准了突利可汗。突利可汗大败。都蓝可汗尽杀突利可汗的兄弟子侄，突利可汗与出使到这里的长孙晟只带着五个骑兵趁夜南逃，天明后集结散兵，发现只剩几百人。突利可汗很清楚如今的处境，觉得如果他这时投降隋朝，不过是一个降人罢了，很难得到大隋以礼相待，况且安义公主已经去世，隋朝更没有由头对他好了。而他和达头可汗，虽然开战，但两人并无深仇，如果前去投靠，他一定会收留自己。
于是，突利可汗对长孙晟说：“如今兵败入朝，我只是一介降人罢了，大隋天子难道会礼遇我吗？玷厥(达头可汗)虽然也来打我，但我和他无冤无仇，如果去投奔他，他必然会保全接济我。”长孙晟一听这话就觉得不对，知道突利可汗已经生了二心。长孙晟派自己人到附近的伏远镇放烽火，而且同放四处，然后告诉突利可汗，按照惯例，这是有大军来袭，一定得赶紧躲起来。突利可汗没办法，只好听从长孙晟的建议，赶紧跑到伏远镇。到了隋朝的地盘，突利可汗只能听长孙晟的了。长孙晟留下其他人，自己带着突利可汗返回大兴城。
到了京城后，与突利可汗想的不一样，他并没有被慢待，隋文帝对他好吃好喝好招待。长孙晟通过投降的突厥人得知，都蓝可汗牙帐内屡有灾变，人心不稳，便奏请继续出击突厥。六月，高颎命上柱国赵仲卿率兵三千为前锋，大破突厥，都蓝可汗败逃。杨素军在灵州以北地区与达头可汗部遭遇，也大败突厥，达头可汗再次重伤逃跑。为了稳住突厥形势，隋文帝册封突利可汗为启民可汗，并且又选了一个宗室之女册封为义成公主嫁给启民可汗。
都蓝可汗兵败数月后就死于内乱，达头可汗自立为步迦可汗。开皇二十年(600年)四月，他率兵进犯隋朝边境，隋文帝不再客气，命晋王杨广、尚书右仆射杨素出灵州(治所回乐，今宁夏灵武西南)，汉王杨谅、柱国史万岁出朔州(治所善阳，今山西朔县)，合击步迦可汗。长孙晟则受任为秦川行军总管，随晋王杨广出征。
长孙晟利用自己的专长很快便立了大功，他非常清楚对突厥骑兵来说最重要的是水源，于是献计派人潜入到突厥营地上游的水中投毒，突厥人畜饮水后，很多被毒死，人心惶惶，惊道：“天雨恶水，其亡我乎！”他们不知道是隋军在捣鬼，还以为是受到了上天的惩罚，于是连夜遁逃。隋军抓住战机，全面出击，斩杀突厥军千余人，俘百余口，六畜数千头。
史万岁率部在大斤山(今内蒙古大青山)与步迦可汗军遭遇。步迦可汗派人问：“隋军主帅是谁？”侦察骑兵报告说：“是史万岁。”步迦可汗确认隋军将领正是当年威震敦煌的史万岁后，顿时吓破了胆，慌忙引军回撤。史万岁率兵追击百余里，大破突厥军，斩杀数千。又继续跟踪追入沙漠数百里，凯旋而归。
此次出征，隋军大获全胜，虽然击溃了步迦可汗，但没有彻底消灭。转过年来，长孙晟上表说：“臣夜登城楼，望见碛北有赤气，长百余里，皆如雨足，下垂被地。谨验兵书，此名洒血，其下之国必且破亡。欲灭匈奴，宜在今日。”这话大意是：我夜登城楼，观察天象，望见蒙古高原大沙漠以北地区有赤气，长百余里，就像密集的雨点一样，下垂到地上，兵书上说这叫作洒血，出现这样迹象的国家必将破亡。想要灭掉突厥，现在是最好的时机。
长孙晟说得很邪乎，但在隋文帝看来，在对付突厥人方面，长孙晟是第一流的专家，也是最值得信任的人。于是诏令杨素为行军元帅，长孙晟为受降使者，援助启民可汗北击步迦可汗。正如长孙晟所预言，这次出击给予了步迦可汗致命的打击，在隋军的猛烈攻击下，步迦可汗部溃不成军，西奔吐谷浑，两年后不知所踪。从此启民可汗成为东突厥大可汗，达头可汗的部众都来归附，东方的奚、霫、室韦等部一一归顺。
饮水思源，启民可汗对隋文帝感恩戴德，他上表说：“大隋圣人可汗怜养百姓，如天无不覆，地无不载，染干如枯木更叶，枯骨更肉，千世万世，常为大隋典羊马也。”大隋圣人可汗，爱怜天下百姓，就像天没有一处覆盖不到，就像地没有一处承载不到。我像枯树长出了新叶一样，活了过来，我愿意千秋万代为你典养羊马。
隋文帝由此获得了“圣人可汗”的尊号，意味着他不仅是隋朝的皇帝，也成了突厥人认可的可汗了，这算是开了先河，在此之前，没有一位帝王能做到既是中原的皇帝，同时也被奉为游牧民族名义上的首领。
“自天以下，地以上，日月所照，唯有圣人可汗。今是大日，愿圣人可汗千岁万岁常如今日也。”隋文帝的威望由此达到了最高峰。