徐树铮被人称为“小扇子”，类似于皖系的师爷或者是军师，也有人称之为“皖系之魂”。虽然皖系的当家人是段祺瑞，但实际的操盘手却是徐树铮：对内他组建国会操控皖系，对外他也是皖系将领里罕有的几个打过胜仗的。袁世凯曾对徐树铮有过这样的评价：“又铮其人，亦有小才，如循正轨，可期远到。但傲岸自是，开罪于人特多。”论才干徐树铮不仅在皖系，在整个北洋系中都无出其右者，但他的缺点是不擅经营人脉，所以皖系内部的人因他而疏远，北洋系的人也因他而攻击皖系，以至于到直皖战争时，皖系俨然成了整个北洋系的众矢之的，进而遭遇重创，再难恢复元气。
从1925年4月开始，徐树铮先后考察法国、英国、瑞士、意大利、德国、苏联、比利时、荷兰、美国、日本。访问英国时，徐树铮曾受邀在英国皇家学院演讲，演讲的题目是“中国古今音乐沿革”，据说徐树铮的演讲非常精彩，让在场的英国绅士和淑女们对其刮目相看。其实，除了书法和作诗，徐树铮还喜欢昆曲，据说他不仅能够自己谱曲，还能够上台演出，先后和徐凌云、向馨吾、俞振飞等梨园名伶同台，尤擅花脸和贴旦的曲目，声如洪钟，当时知名的企业家和政治家张謇就曾赠诗云：“将军高唱大江东，势与梅郎角两雄”，所以中山先生辞世，周游所作“竟共推徐氏此联为第一”也不是阿谀之词。
徐树铮于6月3日抵达意大利，意大利政府派巴白力区中将负责接待，就是在意大利期间徐树铮见到了时任意大利政府内阁总理的贝尼托·墨索里尼。徐树铮与墨索里尼初次见面并无太多交际，据说当时墨索里尼“立于大客厅，右手插入胸前对襟中，如拿破仑状”，与徐树铮的会晤也只是握手后稍事寒暄便告结束，显然是一副外国尊主敷衍小国代表的情状。徐树铮乃请意大利方面负责接待的人员再次约定时间，这一次改在办公室见面，墨索里尼与徐树铮相对而坐，由徐树铮的随员秘书朱佛定担任翻译，二人畅谈国际问题，据说“大为投机”，竟然谈了两个小时。而在徐树铮三子徐审交的回忆文章里，亦有“先生和墨索里尼的协议，使先生如虎生翼”的字样，只是这个消息已经难断真伪。在苏联时，徐树铮还会晤了苏共领导人斯大林和托洛茨基。在美国时，徐树铮入住纽约五月花饭店，并前往华盛顿晋见时任美国总统的约翰·卡尔文·柯立芝，不过这位美国总统是有名的少言寡语，美国人甚至称他为“沉默的卡尔”，本来就不多话，加上语言不通，相信徐树铮与柯立芝的见面远不如与墨索里尼见面时碰撞出的火花多。离开美国之后，徐树铮则前往日本，在东京下榻帝国饭店，因为皖系素来都是以亲日的形象示人，因此徐树铮在日本的行程就比较紧凑，除了晋见日本天皇夫妇，还会晤了日本首相加藤高明、日本外相币原喜重郎等人，总算是完成了自己的考察之旅。
12月11日，徐树铮结束考察回到中国，在上海登陆，上海名人黄金荣、杜月笙闻讯均登上徐树铮乘坐的船“天津丸”迎接，徐树铮上岸之后即回到南洋路自己的私邸。当时坐镇上海的是孙传芳，孙传芳在江浙一带连败奉系两大战将杨宇霆和张宗昌，渡江逐北，直抵山东边境，随即筹划建立浙江、福建、江苏、安徽、江西五省联军，自任总司令兼江苏总司令，一时风光无二。孙传芳和奉系对抗，却不欲开罪旁人，闻徐树铮抵达上海，亲自从南京赶到上海欢迎，上海各团体就在商会隆重欢迎徐树铮和孙传芳。彼时孙中山先生去世，国民党决定挥师北伐，危及北洋系利益，徐树铮与孙传芳随即商量携手赴南通见张謇。
这个时候，徐树铮其实手上既无军队也无职权，身上挂着的名头依然是段祺瑞派给他的“考察日本各国政治专使”，但他毕竟是皖系的灵魂人物，他的一举一动牵动着举国上下的神经，更何况此时的徐树铮身边还站着孙传芳。一时间各种消息不胫而走，甚至有徐树铮将联合张作霖、孙传芳一起对付国民军的传闻，而此时徐树铮南下拜访张謇，事情再明白不过，矛头直指冯玉祥的西北军和北伐的国民军。但徐树铮素来的行事风格就是“高调做事”，虽然他自己以为足够低调，但其实已经高调得举国皆知。
而此时北方的局势正处在莫测之际：在关外，郭松龄兵变反张；在关内，李景林和冯玉祥也翻了脸。北京毕竟是在冯玉祥的势力范围之内，冯玉祥的嫡系鹿钟麟掌管着京畿军警宪的指挥权，在开战之初就关押了段祺瑞的谋士曾毓隽。前文已经讲过这位曾毓隽先生，他和徐树铮不同，一直持“低调做人”的原则，所以虽然经常被列到大奸大恶的名单里，这位仁兄却始终安然活着，从来不受人重视。但是随着皖系的那些风云人物逐次没落，再低调的人也免不了会显山露水。曾毓隽被抓，段祺瑞真的到了山穷水尽的地步，而徐树铮刚一从南通回到上海，段祺瑞就发了一封急电给徐树铮，说现在北方形势纷乱，自己在北京尚且朝不保夕，随时都做好了下野的准备，劝他千万不能北上。但是段祺瑞并不知道，他不发这封电报还罢，既发出了这封电报，又被徐树铮看到，那徐树铮是非要入京不可。
谈及徐树铮在1925年北上之事，很多人都认为是徐树铮的性格使然。因为徐树铮之前的作为，认定徐树铮为人骄狂，胆大妄为，虽然明知北上要进入冯玉祥的势力范围之内，但依然不顾诸人反对，毅然决定北上。其实，徐树铮毅然北上，固然与他骄狂及自负的性格有关，但更多的是情势所迫，不得不铤而走险。经过直皖一战，皖系数十年的经营倏化烟尘，虽然经过第二次直奉战争段祺瑞得以再次回到北京执政，但真正的当国者乃是奉系与冯玉祥，段祺瑞所做的任何决定，都务必要权衡二者之间的利害关系。也正是因为如此，段祺瑞明知离不得徐树铮，还是执意要他出国，名虽“出国”，实为“避难”，既有当年徐树铮杀陆建章，为徐、冯之间埋下私仇的顾虑，亦因为徐树铮在皖系地位之重无人不知，徐树铮若回到北京，怎会甘心与段祺瑞居于人下？不闹出些四方风雨，亏了这“皖系师爷”的名号。
自皖系当国，到左右北京时局，乃至于直皖战争、福建兵变、直奉两番激战、孙中山北上京津，徐树铮的身影可谓无时不在、无处不在，在无兵无将、无权无实的情况下，徐树铮尚且可以翻手为云、覆手为雨，若是让他再掌实权，以奉系和国民党的能耐，又如何保证能斗得过这位皖系的神算子？因此莫说是徐树铮北上，他便是留在上海，也是凶险万分。但徐树铮此时接到段祺瑞的电报，知道自己必须北上。究其原因，无非三点：一、北方大乱，正是皖系再次崛起的良机，皖系此时力量薄弱，要靠实实在在地扩充实力显然不现实，唯有“浑水摸鱼”，可能还有一丝希望，加上徐树铮此时外联墨索里尼、内通孙传芳，无疑更不能错过眼前这大好时机。二、曾毓隽被鹿钟麟抓去，段祺瑞孤身陷在北京，又无实权在手，失了曾毓隽便如断掉一臂，而其余人等必不足以令徐树铮放心，因此出于对段祺瑞性命的担忧，徐树铮也必须北上。三、徐树铮与孙传芳结伴南下会晤张謇，虽然找不到确实依据考证彼此交谈的内容，但必定是商定了大事。
虽然上海诸人反对，北京有段祺瑞阻拦，12月19日，徐树铮还是带着跟他一起出国考察的随员乘坐顺天轮由上海奔赴天津。23日，徐树铮一行抵津，宋子扬借了英国领事馆的轿车相迎接，徐树铮登车后径直驰入北京，而其他随员则乘坐火车赴京。徐树铮于当天抵达北京之后即下榻无量大人胡同王宅，其他随员则分别住宿到旅馆里。安排妥当之后，徐树铮随即单独往见段祺瑞，据说二人见面之后，“相对跪拜，抱头痛哭”。自当年相逢，二人便携手走来，三造共和，手创皖系，经历世事浮沉，如今再见，自是不胜感慨。
徐树铮虽是忤逆段祺瑞的意思闯入北京，但是段祺瑞并未责怪。只是单靠只手之力又如何能够力挽狂澜？徐树铮进京，固然有恃北方战乱而促皖系东山再起之意，但是等到徐树铮入京，郭松龄已经战败，李景林经过天津苦战之后也已溃逃。此时的冯玉祥地位仍不稳固，但暂时却无忧患。外事渐趋平稳，而段祺瑞的性命也暂时无忧，纵有墨索里尼扶持，皖系也难有作为，段祺瑞和皖系诸人于是劝徐树铮速速南下，只恐迟则有变。
对于徐树铮而言，在北京这座城已不是第一次来去，但之前每次离去之后再归，必然是耀武扬威，从未有一次再回来会如此狼狈地离开。但时势如此，他只好告别段祺瑞，于29日乘专车南返。徐树铮所乘的专车在晚9时开动，于凌晨1时抵达廊坊，专车即被拦下，冯玉祥所部的张之江派人上车，将徐树铮拿下。关于徐树铮的死说法不一，按照徐树铮三子徐审交的说法，徐树铮在被挟持下车之后，即在距离车站一里远的地方被枪杀，其随员则被全部拘禁在英美烟草公司的司令部马棚。而根据张之江的参谋长张钺口述，徐树铮当晚被幽禁在英美烟草公司旁边的一个仓库里，而其随员则被幽禁于一处马厩里，到上午陆建章的儿子陆承武抵达，才结果了徐树铮的性命。徐审交和张钺所属阵营不同，因此所述内容也有不少出入，但无论怎样，徐树铮确实在廊坊遇害。翌日，天津各报就刊出了“陆承武替父报仇杀死徐树铮”的巨幅新闻，因此当时民众都以为是陆承武为了报昔年徐树铮的杀父之仇，在廊坊设计杀死了徐树铮。这段公案一直被压了二十年，直到抗战胜利之后，徐树铮的儿子徐审交到法院打官司，才使得真相大白于天下，原来陆承武不过是个挡箭牌，操刀的人是张之江，传令和谋划的人则是冯玉祥。
徐树铮少年成名，此后便为皖系及其“武力统一”的事业奔走，到廊坊遇害时，方四十五岁，正值壮年。徐树铮遇害的事情传至北京，据说段祺瑞在接到消息之后，痛不自抑地泪流满面，捶胸顿足地高呼“断吾肱股”。徐树铮在廊坊遇害之后，其学生段大洪跪在张之江面前，恳求寻尸装殓，张之江是基督徒，见段大洪情切，于是勉强答应了。段大洪遂在雪地中寻找，找到徐树铮的尸体以后，由徐树铮的卫士张振声以骡车拉回北京。段祺瑞掏钱购置了棺木装殓徐树铮，1926年11月，徐树铮归葬于家乡的凤冢山。
据徐审交回忆，徐树铮去世以后，虽然案件颇多疑点，但当时并没有人站出来主张“抚恤”或是“惩凶”，一是徐树铮生前得罪的人太多，二来是徐树铮的领导兼好友段祺瑞没有追究。当时虽然外间尽传是陆承武杀害徐树铮，但段祺瑞等人又怎么会不知道其中因由，只是当时段祺瑞尚且在囚笼之中，自身尚且不能保全，哪里有能力去做号召“抚恤”或是“惩凶”之事呢？但徐审交援引曾宗鉴的一段笔记却颇让人动容，说是1926年4月段祺瑞下野之后离京，在经过廊坊时，向随行人员询问徐树铮遇难的详细地点，等到车抵廊坊，“合肥（指段祺瑞）开窗西望，历十分钟，口唇微动，喃喃若有语，老泪盈眶，掩面入卧”。到后来亦将徐树铮牌位摆入段氏祠堂，年年让子孙拜奉，二人情义之深可见一斑。徐树铮去世以后，好友张謇撰挽联悼念：
语谶无端，听大江东去歌残，忽然感流不尽英雄血；
边才正亟，叹蒲海西顾事大，从何处更得此龙虎人。
曾毓隽被囚，徐树铮被杀，困守京城的段祺瑞真的到了山穷水尽之时。段祺瑞此时已做好引退的打算，但他若要引退，需要有一个摄政内阁作为过渡，他于是加速修正临时政府制，增设国务院，恢复设置国务总理。1925年12月26日，段祺瑞正式下令，在“中夜彷徨，惄焉如捣”之后“惟有修正临时政府制，增设国务院，以专责成”。同日，段祺瑞任命许世英为国务总理，王正廷为外交总长，于右任为内务总长，陈锦涛为财政总长，贾德耀为陆军总长，杜锡珪为海军总长，寇遐为农商总长，马君武为司法总长，易培基为教育总长，龚心湛为交通总长。
就是在这个时候，形势却发生了急转直下的变化，本来在第二次直奉战争中与张作霖结仇的吴佩孚，忽然不再讨伐奉系，于31日通电宣布结束讨奉战争。不仅如此，吴佩孚还和张作霖、张宗昌联手，组成了反冯联盟，这样一来，张作霖不仅转危为安，而且一下子得到强有力的盟友，反而是冯玉祥陷入了四面楚歌的困境。于是，冯玉祥所部在京畿以及直隶、湖南地区就陷入了奉军和直军的包围中，而此时东南的孙传芳也响应吴佩孚结束了对奉战争，冯玉祥的处境更为糟糕。1926年1月1日，进退两难的冯玉祥只好通电下野，以张之江代理国民军总司令职务。
段祺瑞让许世英组阁，原本是因为冯玉祥逼迫太紧，因此留个台阶好下台。如今冯玉祥下野，张作霖亦做出下野状，吴佩孚、孙传芳则通电主张结束战事，张之江则通电拥护段祺瑞，局势渐趋缓和。许世英知道段祺瑞反悔，遂前往执政府劝段祺瑞发出下野电以免引发阁潮。段祺瑞虽然担心因此引发阁潮，但到底不愿就此下野，于是由汤漪将原本的下野电进行修改，“际兹时变，善后维艰，前者修改临时政府制，增置中枢，谋庶政之公开，补阙失于既往，但期利国，宁有成心，所望各建谠言，迅定国是，即释重负，俾践前言”，于9日交阁议，通过之后由刘汝贤领衔十六省区代表发出通电，“国家重器付托之方，当所各方公决”。
但当时各方对接下来的政局意见不一，而且彼此之间的分歧极大。天津的张绍曾有意请黎元洪出任总统，自己出任总理组阁。上海方面有的主张拥护黎元洪，有的主张拥护唐绍仪。吴佩孚、张作霖、孙传芳三方没有确切的消息。冯玉祥的西北军则分为两派，一派主张仍维持段祺瑞、许世英的现状，一派则主张段祺瑞下野，按照孙中山的宣言召开国民会议。北伐的国民军则坚持只要黎元洪不入京掌握实权就可以商量。外间吵闹不休，段祺瑞在北京也不着急，倒是许世英倍感焦虑，他组阁本来是为了促段祺瑞下野，这样一来段祺瑞是否下野犹未可知，他自己的内阁倒是肯定会被撤掉，与其被赶走不如自己走，2月16日，许世英首次提出辞职。