无论隋文帝最后经历了什么，仁寿四年(604年)，这位重新统一天下的帝王永远闭上了双眼，结束了六十三年波澜壮阔的一生。对于隋文帝的评价，后世看法也不一致，甚至呈现两极化的倾向。唐太宗李世民便看不上这位前朝皇帝，他说：“此人性至察而心不明。夫心暗则照有不通，至察则多疑于物。又欺孤儿寡妇以得天下，恒恐群臣内怀不服，不肯信任百司，每事皆自决断，虽则劳神苦形，未能尽合于理。朝臣既知其意，亦不敢直言，宰相以下，惟承顺而已。”隋文帝这个人性情苛刻，很多事情判断不清，所以比较多疑，同时他靠欺负孤儿寡母取得天下，唯恐有人不服，不肯相信别人，这样一来，只能事必躬亲。他虽然很辛苦但却不讨好，百官们什么都不敢说，也不敢做。在李世民看来，这样的皇帝很难算得上好皇帝。
不过，大部分史学家对隋文帝持正面的评价，司马光说：“高祖性严重，令行禁止，勤于政事。每旦听朝，日昃忘倦。虽啬于财，至于赏赐有功，即无所爱；将士战没，必加优赏，仍遣使者劳问其家。爱养百姓，劝课农桑，轻徭薄赋。其自奉养，务为俭素，乘舆御物，故弊者随令补用；自非享宴，所食不过一肉；后宫皆服浣濯之衣。天下化之，开皇、仁寿之间，丈夫率衣绢布，不服绫绮，装带不过铜铁骨角，无金玉之饰。故衣食滋殖，仓库盈溢。受禅之初，民户不满四百万，末年，逾八百九十万，独冀州已一百万户。”隋文帝勤政爱民，生活俭朴，在他的统治下，国家的财富日益增长，仓库丰盈。隋文帝受禅之初，隋朝的民户不满四百万户；到了隋文帝仁寿末年，超过了八百九十万户，仅冀州就已有一百万户。
不过，司马光虽然对隋文帝的成绩予以充分肯定，但也明确指出了他的缺点，“然猜忌苛察，信受谗言，功臣故旧，无始终保全者；乃至子弟，皆如仇敌，此其所短也”。隋文帝最大的毛病是疑心重，喜欢猜忌，不仅功臣，就是自己的儿子，也被当成仇人对待。
著名历史学家吕思勉认为：“隋文帝何如主也？贤主也。综帝生平，惟用刑失之严酷；其勤政爱民，则实出天性，俭德尤古今所无，故其时国计之富亦冠绝古今焉。其于四夷，则志在攘斥之以安民，而不欲致其朝贡以自夸功德。既非如汉文、景之苟安诒患，亦非如汉武帝、唐太宗之劳民逞欲。虽无赫赫之功，求其志，实交邻待敌之正道也。”“他勤于政事，又能躬行节俭。在位时，把北朝的苛捐杂税都除掉，而府库充实，仓储到处丰盈，国计的宽余，实为历代所未有。”
另外一位当代历史学家范文澜对隋文帝也给予了高度肯定：“隋文帝主要的功绩，在于统一全国后，实行各种巩固统一的措施，使连续三百年的战事得以停止，全国安宁，南北民众获得休息，社会呈现空前的繁荣。秦始皇创秦制，为汉以后各朝所沿袭，隋文帝创隋制，为唐以后各朝所遵循，秦、隋两朝都有巨大的贡献，不能因为历年短促，忽视它们在历史上的作用。隋文帝在力求巩固国家统一的方针下，行政、定制度和对待敌国等方面，都取得了成就。西晋以来将近三百年的动乱，到隋文帝时，确实稳定下来了。他是较好的政治家，因为他多少能够留意到劳动民众的愿望。”
《剑桥中国隋唐史》对隋文帝做了一分为二的评价：“杨坚易于发怒，有时在狂怒以后又深自懊悔。这显然与他个人的自危感有关，到了晚年，与上面谈到的追求最高权势的变态心理有关。一次他在殿上鞭打一个人，然后又肯定此事与天子的身份不符，并主张废除笞刑。但不久，他在暴怒时又用马鞭把一人鞭打致死。他似乎常常对帝王应仁慈宽厚的呼吁充耳不闻，不加限制地施行当时普遍的酷刑。”“虽然有这些局限性，又处于这种精神状态，杨坚仍是一位坚强和有成就的统治者。他酷爱工作，并把大量文牍从议政殿带回住处审批。他似乎经常干预各级政府的事务：插手(有时粗暴地)司法机构的工作；重新审理所有重罪判决，以之作为自己的职责；接见朝集使，并告诫他们要勤奋工作和成为有德之人；考察补缺者和官员的表现；赞誉有成绩的官员，谴责疲沓和贪污；主持早朝，与大臣们讨论国内外政策；巡视全国。从他的工作作风和从他对法律、对儒生和官员的总的态度可以看出，他受了法家传统和当时常见的个人对佛教的信仰两者兼而有之的强烈影响。”
因此，从总体上看，隋文帝是个好皇帝，在某些方面，甚至可以用“出色”来概括。最大的成就无疑是结束了三百多年的分裂局面，使得华夏大地重获统一，有力促进了汉族和其他民族的融合。在治国理政方面，做出了一系列的创新，创立了三省六部制，完善了府兵制，更重要的是建立了科举制。同时，隋文帝重新确立了中原政权的优势地位，通过与突厥的反复较量，终于让不可一世的突厥人臣服，从而获得了“圣人可汗”的尊称。应该讲，无论内政还是外交，都是可圈可点。西方对他的评价似乎更高，美国著名历史学家迈克尔·哈特曾经出版过的一本名叫《历史上最有影响的100人》的名著，书中上榜的中国帝王只有两位：一位是大名鼎鼎的秦始皇，而另一位就是隋文帝杨坚。
从私德上讲，隋文帝堪称典范，是古代历史上最为节俭的皇帝之一，他以身作则、以上率下，给朝廷百官带了好头。在他统治期间，没有出现什么贪腐大案，整体来讲政治上还算风清气正。
不过，隋文帝还是有不少问题，特别是到了统治后期，他过于志得意满，失去了前进的方向，觉得形势一片大好，是时候休息放松一下了。从负责建造仁寿宫的杨素没有被罚反而受到赏赐，便可看出一些端倪，以节俭著称的隋文帝夫妇开始变得乐于享受了。
隋文帝这份得意在开皇十五年(595年)达到了高潮，先前杨广和不少大臣请求他到泰山封禅，都被隋文帝拒绝。可这一年，他觉得是时候让上天知道他所建立的丰功伟绩了。开皇十五年正月十一日，隋文帝率领百官，登上泰山，在山顶设坛封禅。那一刻，隋文帝的感觉好极了，他陶醉在自己所缔造的空前成就中。殊不知，一些危机已经在王朝内部悄然孕育着，并最终展现出强大的破坏力。
要说最大的危机，便是隋文帝对孩子的教育，可以用完全失败来形容。用《隋书》上的话说：“(隋文帝)素无术学，不能尽下，无宽仁之度，有刻薄之资，暨乎暮年，此风逾扇。……听哲妇之言，惑邪臣之说，溺宠废嫡，托付失所。灭父子之道，开昆弟之隙，纵其寻斧，剪伐本枝。坟土未干，子孙继踵屠戮，松槚才列，天下已非隋有。惜哉！迹其衰怠之源，稽其乱亡之兆，起自高祖，成于炀帝，所由来远矣，非一朝一夕。”隋文帝杨坚不学无术，对孩子太过刻薄，而且还无主见，听信他人之言，反复无常，所以搞得孩子们人性扭曲、手足相残。
谁承想，堪称严父严母的隋文帝和独孤皇后培养出的五个儿子，最后无一善终。难怪史官写到这里，都不免叹息：“高祖之子五人，莫有终其天命，异哉!”隋文帝这五个儿子啊，无一善终，真是奇了怪了。
除了对自己和儿子严苛，隋文帝对大臣更不客气，说到底是个“气度”的问题，特别是统治的后期，“其草创元勋及有功诸将，诛夷罪退，罕有存者”。开皇五年(585年)诛杀王谊、开皇十五年(595年)诛杀元谐、开皇十七年(597年)冤杀虞庆则、开皇十九年(599年)枉杀王世积、开皇二十年(600年)杖杀史万岁等等，这些人对隋文帝应该是忠心耿耿的，大多是隋文帝听信谗言才将其杀掉的。这样一来，开国功臣几乎被杀完，有幸留下性命的也被剥夺官阶后赶回家养老去了。到最后，只能重用杨素、柳述等人，这些人只会揣摩圣意，投其所好，用房玄龄父亲房彦谦的话说“(隋文帝)性多忌克，不纳谏争”，所以走下坡路也就不可避免。
隋文帝对功臣如此，对普通官员更甚，一些小事就足以使人脑袋搬家。开皇二十年(600年)，一名御史因为没有及时纠正武官穿戴整齐被斩杀。谏议大夫毛思祖为御史求情，隋文帝怒气未消，又下令将毛思祖杀掉，为了这样一件小事竟然连杀两个大臣。这样的例子还有不少，将作寺丞因征收的麦秸有些晚，武库令因办公场所杂草丛生，都被下令斩首。凡事过犹不及，统治前期重典治吏值得肯定，但后来因为小事随意杀人，显示出隋文帝喜怒无常、气度狭小。
不仅如此，隋文帝有时候急眼了，根本就不管不顾。开皇十七年(597年)，屈突通奉隋文帝之命到陇西一带视察牧马场，查出了隐匿的马匹有两万多。隋文帝大怒，居然下令要杀掉各级官员一千五百多人，屈突通于心不忍，向隋文帝求情说：“陛下用最仁慈的政令抚育天下，难道容许因为牲畜财产而在一天之内杀戮一千五百人！臣斗胆敢以死请命！”隋文帝怒视并且大声斥责屈突通。屈突通继续说：“臣情愿自身受杀戮，来免除千余人的死罪。”隋文帝这才作罢。
因此，史书上说隋文帝“好为小数，不达大体”是有道理的，最典型的例子就是办学。隋文帝即位之初，大力兴办学校，“思弘德教，延集学徒，崇建庠序，开进仕之路，伫贤隽之人”。但十几年后，他发现招了不少学生，但培养出的人才却不多，“徒有名录，空度岁时，未有德为代范，才任国用”，于是下令“国子学惟留学生七十人，太学、四门及州县学校并废”，全国只保留了国子学的七十二个学生，其他学校全部关闭，学生们一律回家。“十年种树，百年树人”，仅仅想用十几年时间，就培养出大量“任之以职，赞理时务”的人才，实在有些不现实，但就因为这个原因而废除学校，确实有些目光短浅。唐朝的魏徵对此评价说：“及帝暮年，精华稍竭，不悦儒术，专尚刑名，执政之徒，咸非笃好。”这个评价比较公允。
隋文帝带着谜团和争议离开了这个世界，即将登上皇位的杨广迫不及待地想大干一场了。