黄霸对我们来说还完全是陌生的。
黄霸，字次公，淮阳郡阳夏县人（今河南省太康县），和当年起兵抗秦的吴广倒是同乡。黄霸从小就有飞黄腾达的梦想，他在阳夏县当小吏时，曾和一个会看相的朋友外出，俩人说着说着话，忽然看到路边经过一女子，朋友指着女子对他说道：“这个女人以后肯定大富大贵，我说的一定灵验，否则就是看相的书在胡说八道。”黄霸见朋友说得如此信誓旦旦，就查了查这个女子的背景，查过后得知此女是当地一个巫师的女儿。
朋友的话让黄霸陷入了沉思——既然此女日后必定大富大贵，倘若娶了她，仰仗着她，我岂不也能大富大贵？
黄霸立即开始追求此女。经过一段时间的努力，他终于把这“福女”娶回了家。
黄霸学过法律，喜欢当官，于是在汉武帝末年，当得知交钱可以做官的时候，毫不犹豫就买了个官。
只是黄霸有点儿背，他这官当了没多久，就因为亲兄弟犯罪而被免了，之前买官的钱全都打了水漂。
但黄霸还是想做官，便继续攒钱，过了一段时间，他又给朝廷捐了好多粮食，在左冯翊当了个二百石的小吏。
左冯翊生怕黄霸这种买官的人在当官的时候敛财，从来不让黄霸独当一面，更不让他掌权。
但经过一段时间的考察，左冯翊发现这黄霸非常老实，不但没有任何贪墨行径，反而以廉洁著称。渐渐地，上级开始信任黄霸，逐渐将黄霸委以重任，最终，黄霸当上了河南郡的太守丞（太守的助理，甚至可以理解为副太守），秩六百石。
黄霸虽然学习律法，但一点儿也不暴虐，他处事柔和，为官公正，得到了领导和百姓的好评。
那时候，霍光沿袭了汉武帝的政策，汉帝国法律仍然以严酷著称，黄霸虽然只是个太守丞，但其宽厚温和的行事风格，无异于冰天雪地中的一股暖流，格外引人注意。
黄霸在河南郡的好名声连关中小青年刘病已都知道。后来刘病已当了皇帝，很欣赏黄霸，遂将他调到廷尉府。
黄霸本是个小小的六百石官员，居然被天子认识，天子还对他赞赏有加，黄霸自己又公正廉洁，他不飞黄腾达才怪了。
但黄霸到京城不过一年，就被判了个死刑。
这和夏侯胜有关系。
夏侯胜我们是认识的。当年，刘贺当皇帝时，夏侯胜警告刘贺有人想叛变，把准备废刘贺的霍光和张安世吓得脸色大变。霍光私下里找到夏侯胜，问他何出此言，夏侯胜说自己是用知识算出来的，把霍光惊得一愣一愣的。后来在请求废掉刘贺的那封联名信中，夏侯胜把自己的名字也写了上去，遂成为拥立刘病已的一分子，在刘病已登基后被封为关内侯。
但刘病已当上皇帝的第二年，就深刻感受到给自己正名的重要性。他虽然号称是汉武帝的曾孙，可毕竟来自民间，而他的爷爷刘据也没被平反，刘姓皇族对他的认可度不是很高。在这种情况下，刘病已要求群臣给刘彻定庙号，以强调自己是孝武皇帝的后人，当这皇帝名正言顺。这个做法在逻辑上也行得通，因为当年刘弗陵刚刚继位，就因为没有给刘彻在每个郡国立庙而被燕王刘旦说成是“野种”的。
然而当刘病已提出这个想法时，夏侯胜坚决反对，他认为刘彻在位时征伐无度、劳民伤财、灾害四起、海内虚耗，刘彻让百姓的生活水平倒退，不该享有庙号。
群臣都说这是天子的意思，他夏侯胜不能忤逆，可夏侯胜不依不饶，说诏书不能用。于是群臣就弹劾夏侯胜，说他非议天子诏书，有罪。
黄霸就是在这一事件中没有和夏侯胜划清界限，从而获罪的。
夏侯胜和黄霸被判了个死罪。
但夏侯胜是霍光非常器重的人，尤其在霍光准备废掉刘贺的前夕，夏侯胜对霍光说自己算出来有人想政变，一下让霍光变成他的粉丝，霍光因此将夏侯胜聘为他外孙女上官皇后的老师。加上刘病已只是想给刘彻立个庙，并不是非杀夏侯胜不可，所以夏侯胜和黄霸虽然被关着，但一直没有被杀。
两人在入狱前，夏侯胜已经是少府，中二千石官员，又是声誉甚佳的大儒，而黄霸不过是个千石的丞相长史，靠买官走上的官场，学的还是上不了台面的法律（汉武帝独尊儒术后，儒学就渐渐成为正统），所以在夏侯胜面前，黄霸就是个不折不扣的“小黄”。
小黄知道夏侯胜学识渊博，在狱中待得久了就想请夏侯胜给他传授传授知识。
夏侯胜不教：“我们马上都要死了，还学什么学！”
“古人云：‘朝闻道，夕死可矣’，能得闻大道，就算今天晚上把我整死，我也没什么遗憾了。”
夏侯胜毕竟是个大学者，听黄霸说得在理，就日复一日给黄霸讲起了儒学。
他们坐了一年多的牢之后，汉宣帝四年（前70）四月，函谷关以东的49个郡同时发生了地震。山崩地裂、鬼哭狼嚎、房屋破损、百姓死伤……地震造成了很大破坏，刘病已在组织救灾的同时，觉得发生地震是老天爷对自己不满意，宣布大赦天下。
夏侯胜和黄霸就是在这次大赦中出狱的。
刘病已早就不恨他们了，或者说刘病已根本就没恨过他们，所以夏侯胜一出来，就因直言敢谏被任命为谏大夫，比八百石。夏侯胜又趁机推荐了他的狱友兼弟子黄霸，黄霸遂成为扬州刺史，六百石。
黄霸只当了3年扬州刺史，政绩就被远在中央的刘病已留意到，刘病已觉得他真能干，将他提拔为颍川郡太守。同时，为了表彰黄霸在扬州刺史任上的杰出表现，刘病已还给黄霸送了辆豪车。
黄霸的确是个处理政务的好手。他来颍川之前，颍川出过两个非常有名的太守：赵广汉和韩延寿。前者精明能干、明察秋毫，打压豪强不遗余力，颍川刁民相互攻讦，颍川被牢牢控制在赵广汉的手中；后者注重道德教化，以身作则、导民向善，努力营造一个老百姓相亲相爱的社会环境。颍川在这两个风格迥异的太守的治理下，都非常好，他们离开颍川时，得到的评价也是高的。黄霸从来没当过一把手，前面有这样两个杰出人物，他该怎么治理颍川呢？
他将赵广汉和韩延寿的优点结合起来：对百姓，像韩延寿那般推行道德教化，使百姓勤恳务农；对官吏，要努力让他们觉得自己像赵广汉一样无所不知，令他们不敢糊弄自己。
黄霸在颍川干了四年，就因为政绩突出，被调到京城当代理京兆尹，秩二千石。
一般来说，这种代理职务，即试用期，干满一年如果合格就可以转正，而所谓的合格就是不出大乱子。但黄霸只代理了几个月就被调走了。
因为他上台后，连续犯错，连续被通报批评、降薪，后来朝廷觉得他实在不堪此任，又把他打回颍川当太守。只是黄霸再当太守，是灰溜溜回的家，他的级别也不如以前，只有八百石了（之前是比二千石）。
颍川是黄霸的老巢，他回去后立马就顺风顺水起来，一扫在京兆尹时候的晦气，干得有声有色。黄霸在颍川继续干了四年，这几年里，朝廷收到报告，说经常发现凤凰等“神鸟”，而尤其以黄霸所在的颍川郡居多。这些“神鸟”在刘病已看来就是祥瑞，是上天对他的褒奖，他非常高兴，想到黄霸这几年把颍川郡治理得如此好，他专门下了道诏书，给黄霸赐爵关内侯，赏百金，级别提升至中二千石。
汉宣帝十六年（神爵四年，前58），黄霸被提拔为中二千石。几个月后，他被调到京城，当了太子太傅。又过了一年多，汉宣帝十八年（五凤二年，前56），黄霸当上了御史大夫。
下一年，丙吉就死了，刘病已没有让丙吉推荐的杜延年、于定国或陈万年当丞相，他选择了黄霸。
现在我们梳理一下黄霸的为官之路：阳夏小吏、候补侍郎谒者（买来的）、候补左冯翊小吏、河东郡均输长、河南太守丞、廷尉正、丞相长史、扬州刺史、颍川太守、代理京兆尹、颍川太守、太子太傅、御史大夫、丞相。
黄霸从基层做起，一步步爬到百官之首的位置，他有非常丰富的经验，对各个部门都有所了解，又熟知民间疾苦，还有过主政一方的经历，刘病已让他当丞相，谁都没理由反对。
可这个黄霸，不行。
和丙吉相比，黄霸仍是个事务性官员。可丞相要做的，不是管具体事务，而是上辅佐天子，下统领百官，敏锐把握官场生态和社会风气，保持官场平衡，使帝国达到君君臣臣父父子子的有序状态。当年，陈平也对汉文帝说过丞相的职责：向上佐天子理阴阳、顺四时，向下引导万物按规律运作，对外安抚诸侯、蛮夷，对内统领百官，使百官各司其职。
丞相一旦把目光放在具体事务上，就不能窥探到整个帝国的全貌，也就无法当一个总领者、带领百官了。要从一个事务工作者变为一个统领大局者，关键不在于办事能力，因为不需要办具体事情，关键在于气度。没有气度，就没有自信，就生怕自己考虑的事情没有意义（因为做具体事情总会有立竿见影的效果）；没有气度，就沉不住气，看到具体事务就忍不住要插手。
黄霸在颍川时，管得很细，比如他要求驿站等基层单位喂鸡喂猪以供养孤寡老人，还成立宣传小组，到各个县乡去宣传天子的旨意。一个太守管人家养鸡还是养猪这种事情就太细了，你直接要求“驿站等基层单位应充分利用劳动资源，发展养殖业，以保障孤寡老人的生活”不就是了嘛，你管人家养什么牲畜干吗呢？他可以要求郡里成立宣传工作组，但如果他不是组长，他就不用操心工作组由几个人组成、怎么宣传、从哪里开始等具体问题，他只要把宣传工作的要求和基本原则说清楚，然后听结果就是了。
不过虽然管得细，但毕竟也只是一个郡，黄霸加班加点整，也还忙得过来，而且由于他尽量事必躬亲，所以效果还不错。可到了中央呢？如果也这么干，他就是累死也忙不过来。史书有记载，说黄霸擅长治理老百姓，当了丞相后，在振朝纲、宣政令方面做得不如他的前任丙吉和魏相。
但黄霸当不好丞相的原因还不止这一点，因为他当过颍川太守、京兆尹和丞相，前两个职务都主政一方，后两个职务都在京城。他可以在远离京城的地方干得有声有色，可一到京城就灰头土脸。所以黄霸的问题还在于无法适应京城那复杂的官场环境。他在颍川郡，虽然和京兆尹的级别差不多（理论上都该是二千石），但毕竟和中央那些上司打交道的机会少，大部分时间在做事情，可是在京城，各种势力错综复杂，他必须在人际关系和官场斗争方面倾注很大精力，而这一点他恰恰不擅长。
在协调下级和天子之间关系的时候，黄霸显得有些稚拙。他曾希望给刘病已汇报祥瑞，让刘病已开心，却不料遭到时任京兆尹张敞的讽刺，而且刘病已也赞同张敞，弄得他很没面子。
他又想，天子都喜欢培植自己的党羽，所以就建议刘病已把自己的表叔史高提拔为太尉。刘病已的奶奶，被称为史良娣，她的哥哥叫史恭，当年，刘病已出狱后，在丙吉的帮助下到了史家，那之后好多年内都是史家在抚养刘病已。刘病已当上皇帝时，史恭已经死了，刘病已为了报恩，也为了站住脚跟，重用了一批史家人，其中就包括史恭的儿子史高。汉宣帝八年（地节四年，前68），霍氏谋反，史高作为侍中，在这场事变中立下大功，被封为乐陵侯。
史高是刘病已的表叔，又是大功臣，黄霸推荐史高执掌兵权，是加强皇权的建议，按道理刘病已会高兴的。
可刘病已非常生气。
“汉朝早都没太尉了，我让丞相兼任，就是为偃武修文，你是没事找事吗？
“国家如果要打仗，那时候但凡有能力的人都得出征，何必要太尉呢？
“你知道自己是干什么的吗？你的职责是宣明教化、弘扬正气，使百姓无冤狱，邻里无盗贼！任命将相，是我来考虑的！
“那史高是我信任的近臣，我自有安排，何须你越权举荐？”
刘病已说这么多，其实就一个意思：你黄霸不干正事、越俎代庖。
但刘病已不是批评一顿就完了，他还要尚书令去找黄霸：你为啥这样做，给个说法！
黄霸能给什么说法？只能说自己被猪油蒙了心、糊涂呗。
这件事情之后，黄霸更加谨慎，再也不敢胡乱揣测圣意，提些自以为“不错”的建议了。
黄霸当了四年丞相，于汉宣帝二十三年（五凤三年，前51）去世。
黄霸去世后，御史大夫于定国接任。于定国，正是丙吉临终前推荐的三人之一。
既然黄霸比不上魏相、丙吉，刘病已为何用他呢？
原因之一是，魏相、丙吉这种人不好找，没有这种人的话，就只能退而求其次；另外，黄霸身上也有刘病已看中的优点。
刘病已很赞同黄霸宽厚的行政风格，他需要这样的人。
因为刘病已一直觉得国家的法令太过严酷。