在陆荣廷被封为两广巡阅使以后，北洋政府就有了两位巡阅使，另外一位就是长江巡阅使张勋。武昌起义爆发以后，张勋被清政府授为江苏巡抚兼署两江总督、南洋大臣，为表示忠于清廷，他本人及其所部都留着辫子，他被称为“辫帅”，所部定武军则被称为“辫子军”。后来到袁世凯称帝，张勋虽然极力拥护，但却仍然表示忠于清廷。但因为他不属于北洋系嫡系，所以不管是袁世凯还是段祺瑞都利用他来制衡其他北洋系将领。但是和陆荣廷不同的是，陆荣廷是陈兵两广握有实权，张勋虽名为长江巡阅使，但在冯国璋眼前也不敢太过造次。
1917年4月6日，美国正式对德宣战，至此第一次世界大战的形势愈发明朗。12日，日、美两国公使先后照会中国政府，声明中国如因为对德宣战引发内战，愿意借款给中国政府进行援助。此时的段祺瑞已经下定决心对德宣战，他对黎元洪和国会中反对参战的声音毫不重视，所虑的仅是北洋系以及北洋系附属军将领们的意见。因此，段祺瑞在4月中旬急电召集各省督军进京讨论外交问题，因故不能进京的督军务须派全权代表参加。段祺瑞本意是想把冯国璋、张勋和陆荣廷请到北京来，冯国璋是北洋系中的第二号人物，张勋是北洋系附属军将领中的实力派，陆荣廷则可以代表西南派，但是这三个人都不愿卷进北京的政治旋涡里，纷纷装病拒绝会晤段祺瑞的代表靳云鹏。
第一个赶到北京的北洋系将领是倪嗣冲，倪嗣冲从蚌埠动身的时候就声明自己反对对德宣战，途经天津时甚至骂主张对德宣战的梁启超是“亡国文妖”，使得黎元洪对“倪大炮”也刮目相看。可是等倪嗣冲到了北京，黎元洪才看清楚倪嗣冲的真正目的：倪嗣冲之所以顺从黎元洪，是想保举兄弟倪毓棻为陆军中将，保举儿子倪幼忱为陆军少将。感情受到欺骗的黎元洪怒不可遏，把倪嗣冲骂出了总统府。在总统府碰了钉子的倪嗣冲只好去见段祺瑞，倪嗣冲是安徽人，与段祺瑞同属皖系，本以为段祺瑞会因为他亲近黎元洪而心生恼恨，哪知道段祺瑞态度和蔼地接见了倪嗣冲。于是，这位曾到处鼓吹反对参战的北洋系军阀，摇身一变成了支持参战的急先锋，并且为支持参战到处疾呼。
倪嗣冲抵达北京后不久，山西督军阎锡山、河南督军赵倜、山东督军张怀芝、江西督军李纯、湖北督军王占元、福建督军李厚基、吉林督军孟恩远、直隶督军曹锟、察哈尔都统田中玉、绥远都统蒋雁行等先后应召入京，不能入京的其他督军亦委派代表列席。4月25日，军事会议开幕，出席和列席的督军、督军代表二十余人，海军总长程璧光和陆军训练总监张绍曾也都应邀参加。段祺瑞亲自主持会议，声明此次会议主要讨论军制和外交问题，随即拿出写有“赞成总理外交政策”八个字的签名单请各省督军和代表签名。其实各省的督军在开会之前就已经私下沟通过，只要不让他们带兵出去远征，他们自然愿意站到段祺瑞一边支持对德宣战，随即一致签名。至于统一军制问题，需要规定军官标准和裁军节饷等，督军们自然不愿意，段祺瑞也不勉强，也就不了了之了。
段祺瑞在笼络着各地督军，黎元洪也不想落下，而此时依然坚持反对对德宣战的地方军阀首推张勋。当时正值财政总长陈锦涛因受贿被免职，黎元洪就提议由袁世凯“嵩山四友”之一的李经羲继任财务总长。黎元洪之所以看中李经羲，就是因为李经羲是李鸿章的侄儿，与淮军系统有着历史关系，尤其与张勋关系笃深。黎元洪提议李经羲继任财务总长还有另一层意思，当年他把徐世昌和王士珍请出山，本意是想让他们两个人替代段祺瑞，但两个人都不敢接受，李经羲虽然和北洋系关系泛泛，但在淮军中却有着极高地位。北洋系中很多将领也都是淮军出身，请出这位有实力的老官僚入阁，黎元洪也是希望有朝一日可以让李经羲组阁代替段祺瑞。27日，众议院通过黎元洪的提案，确定由李经羲出任财政总长。
5月1日，国务会议正在举行的时候，二十多个督军和督军代表突然闯入要求参加会议，议员们就在督军团的威逼利诱之下通过了对德宣战的提案。4日，对德宣战案提交国会，但国会各党派意见不一。当日，段祺瑞请各督军在迎宾馆疏通议员，以王占元、张怀芝、孟恩远、李厚基、曹锟、赵倜、阎锡山、倪嗣冲及各省督军代表的名义邀请两院全体议员赴迎宾馆举行招待会。各督军在招待会后又集体前往总统府见黎元洪，想利用督军团的联合声势威慑住黎元洪，但是黎元洪到底是一国元首，他和督军团争吵一番不欢而散。
接连几天，国会始终没有就对德宣战案达成一致，段祺瑞是承袭袁世凯衣钵逐渐在北洋系中树立权威的，袁世凯惯用的手法就是武力威胁和伪造民意，这自然也是段祺瑞的拿手好戏。8日，北京城忽然出现了很多古怪的队伍，他们手拿白布小旗，自称是“五族公民”“陆海军人代表”等，在象坊桥附近一带活动。“公民团”成员则包括北京城里的军人和警察，还有乞丐、杠夫和无业游民。众议院的议员被围困了十个小时，最终才在段祺瑞的帮助下离开，但对德宣战案仍无结果。
1917年5月18日，北京英文《京报》将中日商讨借款的秘密消息登出，原本日本准备借给中国一万万日元，以聘用日本技师和管理人员主持中国军火工业、聘用日本武官训练中国参战军为交换条件。就在同时，孙中山、唐绍仪、岑春煊等人从上海发来电报，要求严惩威胁国会的暴徒，孙中山更是以个人名义电请国会否决对德宣战案，给予段祺瑞内阁沉重打击。
19日众议院再度开会，诸多议员均表达对内阁的不满，自此国会与段祺瑞变得势不两立。督军团担心段祺瑞垮台会使北洋系陷入困境，于是联名请总统提交国会改正宪法草案，如果国会拒绝改正，则呈请总统解散国会，并且声称如总统不解散国会，各督军就会集体辞职，届时将对地方治安不负任何责任。20日，黎元洪邀请国会中的政学会领袖谷钟秀、研究会领袖汤化龙、益友社领袖吴景濂、政余俱乐部领袖王正廷等到总统府谈话，并且表示如果督军团一定要他解散国会，他将会秉承“不违法，不盖印，不怕死”的主意绝不更改。21日，黎元洪召唤督军团呈文上签名居首的孟恩远到总统府谈话，表示坚决不会解散国会，孟恩远离开总统府后，即通知各督军在段祺瑞私邸内开会，各督军商定即刻回到防地以对抗黎元洪。
此时的段祺瑞已经走到了穷途末路，社会各界要求解散段内阁的声音越来越高涨，但是段祺瑞依然希望能够留任。在23日，他派出精于应酬的张国淦到总统府找黎元洪周旋，岂知黎元洪的幕僚金永炎竟然持枪威胁张国淦，要他不得为段祺瑞说话。当天，黎元洪下令免去段祺瑞的国务总理兼陆军总长职务。说起段祺瑞与黎元洪的恩怨其实本有多次峰回路转的契机，但段祺瑞当时携北洋系声势，为人又骄横不肯轻易低头，而黎元洪则完全坏在他的几个幕僚身上。
黎元洪的四大幕僚丁世峄、金永炎、哈汉章、黎澍，后来被皖系称为“黎幕四凶”，虽为幕僚其实都是有勇无谋之辈，黎元洪当时既无势力也无兵力，他的幕僚们却拿个总统的虚名当令箭，以黎元洪孤身一人对抗北洋系，完全就是在帮倒忙。
段祺瑞知道黎元洪决心已下，便于当日乘车前往天津，但临行前还是给黎元洪留了一个伏笔，说总统是以非法手段免去他的总理职务，“将来地方及国家因此生何影响，祺瑞一概不能负责”。段祺瑞离开北京以后，黎元洪却没有办法坐稳自己的位置，因为北洋军还围绕在段祺瑞的身边。这时候，黎元洪那几位“成事不足，败事有余”的幕僚又出了个鬼点子，之前不是拉拢来了李经羲嘛！可以请他去拉拢“辫帅”张勋。其实，张勋对李经羲根本不感冒，他之所以没有跟督军团北上是因为他自视为督军团的盟主，不愿意来充当段祺瑞的马前卒，再一个就是他也在寻找复辟的机会。
逊清以来张勋一直都留着辫子，也从来没有放弃过筹划复辟。张勋对清帝复辟的信心，源于一个叫潘博的大忽悠。这位仁兄是康有为的高足，先是张勋的机要秘书，后担任冯国璋的记室，并且向冯国璋推荐另一位鼓吹复辟的人士胡嗣瑗担任江苏军署的秘书长。还是1916年的时候，陆荣廷的儿子陆裕勋被袁世凯毒死，潘博到南宁吊丧，在陆荣廷面前捏造冯国璋支持清帝复辟，陆荣廷虽然反对复辟，但是却没有任何表示。结果潘博就跑到徐州告诉张勋：陆荣廷赞成复辟。后来张勋见到陆荣廷也多方试探，陆荣廷的确没有表示反对，张勋就以为陆荣廷的沉默就是赞同。后来当督军团进京时，张勋又致电冯国璋探听虚实，哪知道冯国璋素来不大过问公事，就交给胡嗣瑗全权处理，而胡嗣瑗在潘博的授意下就杜撰了一封冯国璋同意清帝复辟的电报回复张勋。
但是，更大的陷阱还在后面，话说还是23日，倪嗣冲、张怀芝、李厚基等一部分军阀乘坐专车抵达徐州，参加由张勋召开的徐州会议，段祺瑞也派出了心腹徐树铮参会。张勋并不太重视段祺瑞，因为段祺瑞并无直接兵权，但段祺瑞在北洋系中的威望却是他不能相比的。张勋便专门会见徐树铮，想从他的口中窥探段祺瑞对复辟的意思，徐树铮告诉张勋，段祺瑞只要将黎元洪赶出北京，至于用什么方法并不在意。志得意满的张勋完全不知道，他是被所有人蒙在鼓里了，其时段祺瑞是众矢之的，正面临全国各界人士的口诛笔伐，此际最重要的就是转移众人的注意力，段祺瑞一方正愁找不到一个冤大头的时候，张勋傻呵呵地站了出来。
徐州会议开完之后的第二天，也就是1917年5月24日，张勋致电黎元洪，伪装出一副关怀黎元洪的模样，字里行间都透出愿意出面调解黎元洪和督军团关系的意思。这个时候北洋系的元老徐世昌和王士珍都不愿意得罪段祺瑞，黎元洪的幕僚们意识到张勋可能为己所用，就提议由李经羲组阁，借此拉拢张勋。但包括冯国璋在内的多数北洋系军阀却希望王士珍组阁，虽然有黎元洪和督军团的支持，但老谋深算的王士珍实在无意卷入北京的是非，他于26日通电表示支持李经羲组阁。27日，众议院通过李经羲组阁案，28日，参议院也通过李经羲组阁案。李经羲此时正在北戴河，他自然知道黎元洪和国会把他捧出来组阁的原因，于是致电张勋，张勋给李经羲的回复是“苍生霖雨，允符众望”。
黎元洪任命李经羲为国务院总理的命令发出以后，王士珍专门致电北洋派各督军，希望他们能够支持李经羲组阁，随后以冯国璋为首的直系军阀都对李经羲组阁致贺。但北洋系其他地方的督军就没有直系军阀这么配合了，皖系军阀倪嗣冲首先于29日宣布独立，然后河南、浙江、山东、山西、福建、陕西、奉天等省纷纷响应，先后宣布独立，李经羲哪里还敢到北京组阁？一会儿说要在北戴河避暑，一会儿又举荐王士珍组阁，躲在天津租界就是不敢出来。而张勋此时在幕后左右局势，他一边任由各省督军宣布独立，一边致电在天津的段祺瑞，公然用命令的口吻表示“不得于通常名目之外另立名目”。
支持李经羲组阁的直系军阀，此时都纷纷表明自己是中间派。30日，冯国璋在南京召开的军事会议上表态：“我的地位是副总统，应当辅佐大总统，并且服从大总统的一切措施。各省反对中央，我已去电加以劝阻，劝阻无效，只有听候中央解决。”摆明了就是持旁观态度，把无兵无权的黎元洪晾在那里看热闹。只有介于北京与独立省份之间的曹锟选择独立，但曹锟虽名为独立，却并没有对黎元洪有激烈的反对，属于中立化的独立。各省督军在宣布独立以后，都迫不及待地开始驱逐各省的省长，陕西省长李根源首先被陈树藩软禁，山西省长孙发绪忙着讨好阎锡山可还是被赶了出来，李厚基甚至直接派兵把福建省长胡瑞霖押解上船，同时，宣布独立的各省都出现了任意扩充军队和扣留国税的现象。
西南各省则纷纷通电反对军人干政，反对解散国会，孙中山和李烈钧则电促西南六省兴师讨逆。但说好说，做却不容易做，西南六省当时冲突不断，孙中山和李烈钧手上又无直接兵权，只是雷声大雨点小。督军团方面则称独立其实是“兵谏”，如果黎元洪能够接受他们所提出的解散国会、改正宪法、组织健全内阁、摒斥“公府佥壬”四个条件，即可以取消独立。但黎元洪此时已经是骑虎难下，李经羲不入京组阁，国会议员则纷纷出京避难，连他的幕僚哈汉章、金永炎、黎澍也在重压之下提出辞呈（没事的时候添乱，出事了就想拍拍屁股走人），连总统府秘书长夏寿康、副秘书长饶汉祥也都通电自请处分。软弱的黎元洪转身再去央求徐世昌和王士珍，两个人都闭门不出，万般无奈之下黎元洪只好求助于徐州的张勋，以总统身份邀请张勋入京调停。
6月7日，张勋通电独立各省，“挈队入都，共规长策。盼坚持原旨，一致进行。各省出发军队，均望暂屯原处，勿再进札。勋抵京后，当即驰电筹备”，率领辫子军步、马、炮兵共10营约5000人及随员148人由徐州动身。黎元洪听说张勋带大队人马进京吓出一身冷汗，急忙电请徐世昌、李经羲劝告张勋“减从入京，以免京师人心恐慌”。8日，张勋抵达天津，对黎元洪派到天津来欢迎他的总统府秘书长夏寿康提出解散国会，并且限时三日，完全换了一副嘴脸。这下黎元洪可没有了主意，所谓“请神容易送神难”，急忙解散国会。张勋在到天津以后，接连会见当地的遗老遗少，张勋图谋复辟在天津已经成为公开的秘密。
更悲哀的是黎元洪一方，事已至此，黎元洪的幕僚们还是没有搞清楚孰轻孰重，他们甚至认为“宁可断送于张勋之手，不能让姓段的再来欺负总统”，这种想法实在是荒唐可笑。9日，张勋擅自派辫子军先头部队开进北京，进驻天坛和先农坛。14日下午3时，张勋偕同李经羲、张镇芳、段芝贵、雷震春等乘专车到北京，荒诞无比的复辟闹剧就此上演。