在晚年谈起北洋军阀早期的将领们，奉系的少帅张学良颇不以为然，即便是最能打的直系将领吴佩孚，也被少帅视为徒有虚名之辈。这是因为在北洋军阀早期，确实没有太大的战争场面，而导致皖系军阀崩盘的直皖大战，其实也不过是在京郊走了三天过场，等到东北的张大帅挥师入关，皖系这边的墙头草们纷纷倒戈，于是直皖两边的士兵们还没有看清楚彼此的脸，战争就算结束了。直皖战争其实不算是皖系的转折点，只不过正式宣判了皖系的没落，皖系这棵大树，自巴黎和会神话破灭，经靳云鹏组阁走向分裂，等到直系与奉系独立时已经没剩多少气力，再经倪嗣冲病危、张敬尧兵败，到直皖之战时已不过是强弩之末。
1920年7月8日，久居团河的段祺瑞忽然回到北京城，在将军府召集安福系全体阁员和在京的军政要人举行联席特别会议，靳云鹏等逾800人受邀出席。在会上，段祺瑞非常愤怒，决定呈请总统将曹锟、吴佩孚等直系将领免职。当日下午，国务院召开临时会议，免去吴佩孚的职务，但曹锟则改为“褫职留任”，交通总长曾毓隽、司法总长朱深送总统府盖印。段祺瑞退回私邸，并召集近畿的皖系各师长开会，决定讨伐直系的曹锟和吴佩孚，并派出五线人马，以曲同丰所部边防军第一师为第一线，刘询所部第十五师为第二线，陈文运所部边防军第三师为第三线，李进才第十三师为第四线，魏宗翰第九师为第五线。同时，命令交通部转饬京汉路局赶备专车输送。
此时北京城里人心惶惶，大量民众携家带口涌向城外，徐世昌面对曾毓隽和朱深送来的议案不敢盖印，段祺瑞于是派兵将总统府团团围住，强迫徐世昌盖印，同时命边防军放出风去，如果当夜总统还不盖印，琉璃河方面必于翌日上午率先开火。身在重兵围困中的徐世昌夜不能寐，苦思一夜，想不到退敌之策，不得不于9日午前在内阁送来的议案上盖印。当日，边防军第三师开赴廊坊，第一师与陆军第九师、第十三师、第十五师则开赴长辛店、卢沟桥、高碑店一带。
10日，段祺瑞在团河成立定国军总司令部，自任总司令，徐树铮为总参谋长，傅良佐为总参议，又抽调三路部队，以段芝贵为第一路司令，曲同丰为第二路司令兼前敌司令，魏宗翰为第三路司令。此时，外国公使团匆忙照会北京政府，要求保证战事不要危及外侨生命财产，中国军队不得携带武器入城，飞机则不得飞过北京上空。限制边防军在北京及周边活动的同时，意大利公使又将使馆内的军火秘密售予边防军，日本三井洋行则借给曾毓隽100万元作为边防军开拔费。
另一方面，曹锟在天津誓师，委任吴佩孚为前敌总司令，吴佩孚宣称要亲率三军直捣北京，所部定名为讨贼军，大本营设在天津，司令部设在高碑店。10日，曹锟致电北京公使团，请美、英、法三国迫使日本公使表明态度，就在当天，段祺瑞再次接到张作霖的电文，希望段祺瑞不要再袒护徐树铮。但段祺瑞不以为然，在他看来，奉军当时不会帮助直军，而会选择“坐山观虎斗”，抱着“鹬蚌相争渔翁得利”的心态，因此他有足够的信心挫败直军。自11日起，直皖两军就在前线开始接触，北京城中时不时能听到枪炮声。到13日，忽闻奉军第二十七师、第二十八师入关，段祺瑞大为震惊，接着又获悉奉军已在京奉路、津浦路以及马厂、军粮城一带布防。
但此时战事已经全面爆发，14日皖军先锋第一军第十五师率先进攻直军第三师，占据高碑店。东路皖军则在梁庄、北极庙一带向杨村直军进攻，双方随即陷入僵持。虽然在局部取得优势，但段祺瑞在获悉奉军入关以后有些乱了方寸，急忙又向徐世昌施压，让他下停战令。16日，日军护路队强迫直军退出铁路线，皖军趁机进入杨村，直军退守北仓。17日，广州的“非常国会”亦发文声讨段祺瑞，而湖北督军王占元则软禁了皖系将领吴光新，张敬尧闻风赶紧逃离湖北。
就在这一天，放弃高碑店的吴佩孚率轻骑绕出松林店，突击皖军前敌总部，曲同丰和司令部全体高级将领悉数被俘，第十五师刘询所部和边防军第三师陈文运所部在高碑店大败，原属冯国璋的第十五师第二十九旅旅长张国溶、第三十旅旅长齐宝善率领一部分士兵向吴佩孚投降。在直奉两军的夹击下，西线皖军节节溃败，据皖系的政要曹汝霖回忆，正在火车上打麻将的段芝贵听说西路军溃败，顾不上还没有打完的牌局，“仓皇开车进京城”。东路的徐树铮在廊坊听闻西路皖军溃败，只好赶回北京，他所率的边防军群龙无首，也就向直军投降。
18日，皖系将领曲同丰被押抵保定，曹锟在迎宾馆“光园”正式行献刀典礼。还是那位亲日的曹汝霖，在谈及直皖之战时说了几句实在话，“此次战事，皖方以新锐的武器与陈旧之直军相争，正如以石投卵，绝无败理。岂知有石而不能用，则卵虽软弱，亦可淋漓尽致，使你无能为力。可知无将兵之才，虽有坚甲利兵，亦是徒然”。段祺瑞接着找来靳云鹏，让他代自己去和直系、奉系商讨停战。靳云鹏于是找到傅良佐，请他前往天津，哪知道傅良佐一到天津就被直隶省长曹锐扣下。段祺瑞只好去求徐世昌，请徐世昌颁布停战令，又于19日通电引咎辞职。
皖系垮台以后，徐世昌最为得意，此时唐绍仪在南边，“北洋三杰”死的死、垮的垮，作为北洋系元老的他自然应当成为真正的领袖。
其实袁世凯死后，北洋系的精神领袖虽然不在，但“盟主”尚存，等到段祺瑞和皖系衰败，才是北洋系真正分崩离析之时。直系与奉系自然明白这个道理，因此都担心皖系衰败之后对方会坐大，徐世昌借此主张对段祺瑞宽大处理，他的想法得到了张作霖的认同。曹锟虽然对这个提议不满，但他仍然力图拉拢张作霖，所以也希望对段祺瑞宽大为怀。唯有吴佩孚主张彻底肃清安福分子，并囚禁段祺瑞。1920年7月24日，直奉两军的大部队分别接管南北苑兵房。
29日，北京政府下令通缉安福国会主要成员徐树铮、曾毓隽、段芝贵、丁士源、朱深、王郅隆、梁鸿志、姚震、李思浩、姚国桢等。8月3日，徐世昌下令解散安福俱乐部，不再承认安福系为政党，而以之为构乱机关，至于自己是安福系选出的总统一事则完全抛诸脑后。因为曹锟、吴佩孚和长江三督等直系将领对该处置的不满，徐世昌又在7日补发命令，通缉王揖唐、方枢、光云锦、康士铎、郑万瞻、臧荫松、张宣。不过，在通缉令发出的几日内，北京政府并没有抓到多少“祸首”，因为这些人要么逃到外省，要么就逃进了使馆区，日本公使馆更是直接收容了徐树铮、曾毓隽、段芝贵、丁士源、朱深、王郅隆、梁鸿志、姚震、姚国桢九人，对于北京政府的照会更是予以严词拒绝。
罪魁祸首徐树铮在日本兵营里躲了三个月，然后由日本在天津的驻屯军司令小野寺协助逃往上海，住进卢永祥部下师长陈乐山购置在英租界麦根路的洋房里。传说当时徐树铮化装成日本女人被装进一个柳条箱，由日本军官带上火车抵达天津，徐树铮在柳条箱内低哼着《关云长单刀赴会》安然离开北京。直到11月16日，日本公使小幡才照会北京外交部，说徐树铮早就从日本兵营离开，“金蝉脱壳”到了上海滩。直皖之战皖系兵败以后，大部分地区的皖系军阀均倒向直系，唯有卢永祥督军的上海和浙江安然无恙，随着徐树铮、段芝贵等先后逃到上海，这里俨然成了皖系的大本营。
皖系垮台，靳云鹏却重新回到了国务院，8月9日，北京政府特任靳云鹏署国务总理，靳云鹏于是二度组阁，自兼陆军总长，以颜惠庆为外交总长，张志潭为内务总长，周自齐为财政总长，萨镇冰为海军总长，董康为司法总长，范源濂为教育总长，王乃斌为农商总长，叶恭绰为交通总长。段祺瑞在的时候，靳云鹏在徐世昌、段祺瑞和直系之间艰难地周旋，等到段祺瑞垮台，靳云鹏发现这个国务总理依然不好当，至少眼前就有两个大难题，一个是人，一个是钱。
人的问题是一贯存在的，段祺瑞在时，段祺瑞、徐树铮就是问题，皖系垮台了，徐世昌想当真材实料的大总统，但直系和奉系不买他的账。况皖系在，靳云鹏对付上边不行，总能应付下边，他毕竟还是皖系元老。可皖系垮台后，直系和奉系虽然扶持他上台，但他在两派军阀中并无威望。至于钱的问题，就更是大问题了，自打袁世凯的时代开始，北京政府就一直靠着举债过日子，为了跟外国借款，能抵押的东西都抵押了，盐税、关税、铁路、矿产。
靳云鹏组阁时，徐世昌的本意是跟美国佬借款，但能抵押的已经抵押得差不多了，也没剩什么人家能看得上的。外债不好借，就只好借内债，但当时国内的财政都掌握在旧交通系手里，靳云鹏二次组阁时起用旧交通系的周自齐和叶恭绰，就是希望能够利用旧交通系的关系借债。但旧交通系属意魁首梁士诒出任总理，所以周自齐和叶恭绰也没有拿出什么办法来解决钱的问题。因为政府没有钱，自直皖战争后到1921年年初，拖欠各地军费长达八九个月，各省甚至都出现了不同规模的兵变。严重的时候，连直系驻保定的王牌第二十三师都因为欠饷发动了兵变。
靳云鹏巧妇难为无米之炊，各省军人只好自己想办法，王占元在湖北擅自发行地方公债，李厚基在福建滥发省库券，冯玉祥更是在信阳扣留下京汉路款。另外，北京的参谋、陆军、海军等还组织了规模不一的“索薪团”，通电请求救助饥寒，将军府的将军们也请求政府给资遣散。清朝的时候有“三年清知府，十万雪花银”的说法，可到了民国时代，满京城都是穷官，靳云鹏的内阁也成为皖系掌国以来最穷的一届内阁。
更让靳云鹏头大的是，本来政府就够穷了，到1921年2月，外国各大公使又发来照会，催偿到期应该偿还的外债1.5亿元，政府不仅借不来钱，还得还钱。其实造成北京政府如此窘迫最直接的原因，就是庞大的军费开支，各地督军独霸一方，为了地盘和利益大肆征兵，自然索要的军饷也就愈来愈多。自袁世凯去世以后，皖系一直都在主张“裁兵”，但是皖系自己就不敢裁，你不做又怎么要求别人？等到皖系兵败，皖系的部队大多都被裁掉，但直系和奉系扩充起来的兵力，却又远远高于被裁掉的兵力。
没有办法，靳云鹏只好电请曹锟、张作霖和新上任的两湖巡阅使王占元到天津会晤。其实，这个所谓的四巨头会议，不过是曹锟和张作霖的双雄会，靳云鹏和王占元只是陪太子读书罢了。会议刚开始还比较融洽，可等谈到钱和裁军的问题后，曹锟和张作霖就翻脸了，两个人越吵越凶，以至于把老好人靳云鹏也激怒了。靳云鹏甚至挂长途电话叫内阁替他准备辞呈，并且把家眷接往天津，把内务总长张志潭、农商总长王乃斌也叫到天津，准备办理移交。4月29日，为了缓和气氛，张作霖、王占元摆下酒席请靳云鹏、曹锟等就宴，曹锟、张作霖、王占元并于当天联名发出一封拥护内阁的电报，一场风暴才算平息。等几个人平心静气下来再开会时气氛就轻松了不少，不过谈来谈去，都是不痛不痒的国会问题，裁兵和钱的事情又都被搁置下来。
5月14日，靳云鹏连任总理，第三次组阁，除靳云鹏、颜惠庆、王乃斌、董康、范源濂蝉联外，张志潭改任交通总长，新任命齐耀珊为内务总长，李士伟为财政总长，蔡成勋为陆军总长，李鼎新为海军总长。其中担任财政总长的李士伟自然和借款脱不了干系，虽然中方之前已经跟日方借贷了大笔款项，但日本兴业银行总裁小野莫次郎还是提出了“以债养债”的方案，就是说跟北京政府签订新约，重新以盐税、烟酒税、关税为抵押，把旧债算上，再借给北京政府一笔新债，一起算进这份新约里。李士伟是旧交通系的张弧推荐的，他当时担任由日本财阀涩泽、三井、大仑合伙开设的中日实业公司董事长，但李士伟的日本财阀集团背景令他颇受非议，于是他不敢就职，财政总长只好由老派政客潘复代理。
靳云鹏的内阁困难重重，在上海的皖系故旧们却仍然在做最后的挣扎。在直皖战争以后，虽然在陕西的皖系督军陈树藩并没有帮助段祺瑞，但还是被直系和奉系盯住了，免去了他陕西督军的职务。在上海的卢永祥自然担心自己也难逃一劫，于是在6月4日发出通电，主张各省制定省宪，实现地方自主，并由各省区军民长官选派代表、择定适当地点举行联席会议，俟取得一致意见后，提交国民公决。这封电报与南方的“联省自治派”呼应，立时在北方掀起波澜。16日，卢永祥又在陆军同袍社发表演说，否认浙江独立的同时，却又召集浙江各界人士商讨组织省宪起草委员会。卢永祥的做法迅速得到西南各省的呼应，在陕西的陈树藩也借机授意陕西省议会组织“省宪会议”，成立“筹制省宪自治处”。不过陈树藩忘了一件事，卢永祥在南边，天高皇帝远，陕西可是就在曹锟和张作霖眼皮底下，所以他到底没有达成“自治”，逃窜去了汉中。
卢永祥保住了自己的地盘，靳云鹏却很难保住自己的职位。天津会议时暂时搁置下的财政问题，到这一年的秋冬之际再也无法搁置了，军阀索饷、职员索薪、列强讨债，中交两行限制兑现，财政总长李士伟不能到任，对日“以债养债”的方案难以落实，终于在冬天引发了一场大风暴。走投无路的北京政府只好转而向列强继续借贷新款，而总统府与国务院亦因为多笔款项的争夺而导致彼此关系日渐恶化，徐世昌与靳云鹏这对搭档也难免走到你死我活的地步。此时旧交通系依然想扶持梁士诒组阁，于是趁机倒阁，并派叶恭绰密会张作霖。12月14日，张作霖抵达北京，随即面谒总统徐世昌，直接表示内阁应该改组。此时，吴佩孚又力劝曹锟不要过多干预政治，此时最要紧的是注意自己的实力，曹锟听从了吴佩孚的建议。靳云鹏三次组阁，都是因为得到了直系和奉系的支持，如今曹锟不闻不问，张作霖则受旧交通系的挑拨公然反对他，他的仕途也就只能到此为止。17日，靳云鹏内阁宣布总辞职，靳云鹏本人于当日离京前往天津。18日，徐世昌批准靳云鹏内阁辞职，派外交总长颜惠庆代理内阁总理，皖系的最后一点儿血脉也被斩断。