在整顿吏治方面，刘病已做得可多了，打击酷吏不过是其中一环而已。
当年，刘病已在要求官员们公正执法的时候，就发现了一个问题：基层小吏不廉洁。
为何会这样呢？
因为他们工作量大，但工资低。那么他们要想活得体面，就只能搜刮百姓了。
汉宣帝十六年（神爵四年，前58），刘病已下诏，对百石以下的小吏，涨百分之五十的工资。
除了加强基层官员的队伍建设，刘病已非常重视地方一把手和监察长官的质量。地方一把手，主要是二千石的太守、诸侯国相；监察长官，主要是每个部的刺史。
刘病已的眼光比他的前任都锐利，看出来他和老百姓沟通的最关键桥梁就是二千石官员。他经常说：“老百姓之所以能安居乐业、没有愁苦，就因为政治清平、司法公正。我要保证这一点，就必须选择好的二千石官员！”
认识到了二千石官员的重要性，因此在任用、考核二千石官员的时候，他就渐渐形成了自己的风格。
每次要任命刺史、太守或者诸侯国相，刘病已都会亲自接见，了解他们的想法、目标，日后再把他们干的结果和临走前说的结合来看，如果相去太远，就分析问题出在哪里。这不但让地方长官感受到天子的重视，刘病已也能更准确地发现地方上存在的问题。
在二千石官员的任命上，刘病已非常谨慎，在他之前，史书上没出现过试用期这种说法，可到了他的时代，官员试用一年再转正的情况就多了（主要是京城地区的长官）。赵广汉、尹翁归、张敞、韩延寿都有过试用期，那黄霸也经历过试用，不过试用期还没结束，就因为干得不好被免了。
刘病已还知道，如果一个地方频繁地更换长官，政策必定经常变化（比如赵广汉到颍川就让百姓相互告发，可韩延寿来了就让百姓相亲相爱），会让百姓无所适从。所以他认为，一个地方只有一把手稳定了，才有一以贯之的政策，百姓也才不用担心法令变易，才能安下心来，按照长官的要求来做。
可问题是，如果一个太守干得很好，你难道为了不变换长官，就一直不提拔人家吗？如果干好干坏都不提拔，大家都磨洋工算了。
那么干得好就提拔吗？似乎也不行。因为所谓干得好，就是考核成绩优秀。然而，中央的考核指标，毕竟和百姓的真实需求有一定的差距，如果考核好的就提拔，那大家都争相追逐政绩去了，反而有可能偏离“以人为本”的理念。结果可能是某个郡年年考核都好，百姓的生活却一团糟。而且刘病已也说了，一把手经常变换，风格不同，容易让老百姓无所适从。
那该怎么办呢？
刘病已的办法是，你干得好，我奖励你，但不提拔你；我提升你的级别，但不改变你的职务。
比如黄霸，他当颍川太守当得好，就让他一直当着，没有成绩时比二千石，受到处罚了就八百石，干得出色就中二千石。
比如胶东国国相王成，在任上干得好，刘病已就将他的级别提升到中二千石，同时赐爵关内侯。他没有为了提拔王成，就把王成调到中央当“部长”，而是让王成继续当着胶东国的行政一把手，但级别比其他诸侯国国相高，和中央的九卿一样。
谁干得好，刘病已就给他更好的待遇，给他发荣誉证书、提升级别、发奖金、赐爵（以玺书勉励，增秩赐金，或爵至关内侯）。如此就保证了二千石官员流动不过于频繁。当然，刘病已也不是非得一个人在一个位置上待一辈子，如果中央需要人了，他也会从地方上表现好的官员里选拔。
在吏治方面，刘病已还试图改变内朝一家独大的局面。
汉武帝刘彻是个想法非常多的人，他为了将想法付诸实践，就想方设法集权。集权，换句话说就是从以丞相为首的百官手中夺权。但夺来的权力越多，刘彻的职责就越多，他干不过来了就要有人帮忙，当然，帮忙的得是他非常信任的人。渐渐地，国家有了两套行政班子。一套负责国家政策和方针的决策，这些人受皇帝信任，和皇帝走得很近，后人称他们为内朝官；而丞相那一批人，就远离中枢，主要负责执行，他们也就被称为外朝官。比如霍光，就是内朝首领，不但掌握军权、人事权、宫廷事务，还掌管百官给皇帝的文书（领尚书事），而以丞相为首的外朝官，不似内朝官员那样能经常见到皇帝，一般就只负责执行内朝制定的政策和国家日常事务了。
在汉昭帝九年（前78）的时候，外朝首领田千秋实在不能忍受内朝霍光的欺压，奋起反抗（其实就是开了个会），只不过铩羽而归，差一点儿晚节不保。
随着霍光独霸朝政，立刘贺、废刘贺、再立刘病已，霍光的权势越来越大，丞相的权力也越来越小，同时，刘病已也有逐渐被架空的趋势。霍光去世后，其权力“世袭”给了霍氏子孙。
但此时毕竟和霍光在时不同，因为霍光后人没有霍光的威望。这就给了刘病已巩固皇权的机会。
刘病已要巩固皇权，核心工作就是削弱内朝的权力，避免内朝权势过大。
为了打开局面，他必须越过霍家和百官对话。因为霍山要“领尚书事”，所有上书都得他先看了才给皇帝。如此一来，每当霍山看到不利于霍家的奏疏，就会屏蔽掉。
于是刘病已发明了封事，让臣子可以绕过“领尚书事”，直接将奏疏由中书令（宦官）交给天子。
接着，刘病已又听魏相的话，取消给“领尚书事”准备奏疏副本的做法，要求所有经过“领尚书事”的奏疏，最后都必须全部呈给皇帝。
通过和外朝官、宦官联手，刘病已终于把“领尚书事”的权力限制住了。
内朝势力过大给刘病已带来的掣肘是刘病已难以忘记的，所以他一直注意限制内朝的权力。他在任期间，权力更多移到了以丞相为首的外朝。外朝在刘病已时代，不再像刘彻时代那么颓靡。
自汉武帝时代的公孙弘以降，一直到汉宣帝时代的丞相韦贤，几乎所有丞相都没有什么建树。这倒并非完全因为他们没有本事，而是决策权集中在内朝，以他们为代表的外朝被架空了。
但是韦贤之后的丞相魏相、丙吉就不同了。
他们在朝廷的话语权很大。比如在汉宣帝元康年间（前65—前62），汉朝和匈奴争夺车师国领地，当时郑吉顶不住匈奴的军事压力，请求朝廷派兵，刘病已和大臣商议后，打算通过攻打匈奴来解车师之困，可魏相极力反对，结果攻打匈奴的计划就没能施行。
除此之外，魏相经常给刘病已提建议，刘病已往往都采纳了。据史书记载，魏相这个丞相，总领百官，让刘病已非常满意。
魏相和丙吉一共当了13年丞相，这13年间，外朝权力得到了很大恢复，丞相的威望也有了很大提升。内朝那些人，也不敢动不动就对丞相吹胡子瞪眼了。
刘病已为了和内朝抗衡，利用了外朝集团、宦官集团和外戚集团，处理国家事务是外朝集团的本职工作，给他们增加权力无可厚非。然而在外朝权力上升的同时，外戚势力和宦官势力也坐大了。尤其是宦官势力，给他之后的汉帝国埋下了祸根。