在从副总统被扶正以后，最初的一段时间内，黎元洪像辛亥年的时候一样，乐意当段祺瑞面前的幌子。可时间长了，情况就变了，此时的黎元洪已经不是辛亥年那么颤颤巍巍的“黎菩萨”，从辛亥革命一路走来，在政坛上摸爬滚打多年，他已不再甘愿总是当他人的傀儡。段祺瑞在北京刚刚掌权时，南方的形势依然不够明朗，虽然在北京独揽大权，但是在广东和湖南却接连碰了钉子。段祺瑞碰钉子，对黎元洪来说却是好事，于是他开始尝试着用南方势力压制段祺瑞，从而提升总统的权力，但“远水解不了近渴”，反而加深了他与段祺瑞之间的矛盾。
府院之争就是总统府与国务院之争，也就是黎元洪与段祺瑞之争。府院之争的导火索是徐树铮与丁世峄之间的冲突，而二人冲突的导火索还是湖南和广东的问题。前面讲到段祺瑞想要调李烈钧进京，调陆荣廷去湖南，派汤芗铭和萨镇冰到广东协助龙济光，但是李烈钧和陆荣廷都没有在意他的指派，萨镇冰率海军进入广州也没有太多作为，汤芗铭就更是尴尬了。
广东人明显不喜欢这个由北京政府指派来的外乡人，更兼滇军、桂军都不太欢迎汤芗铭，接受了北京政府任命的汤芗铭一时也不知道该何去何从。
汤芗铭离开了湖南，陆荣廷也无意插足湖南的事情，又让湖南的形势变得很微妙。对陆荣廷来说，湖南距离他的老巢广西有些远，其财源也不及广东，而且湘军也不欲外省人来干涉他们的事务，两相权衡，陆荣廷也觉得与其来湖南给自己添堵，不如回去趁火打劫龙济光无法掌握的广东。段祺瑞也知道陆荣廷在湖南待不久，再者他本来用的就是缓兵之计，一边拖延陆荣廷，一边任命陈宦出任湖南督军兼省长。段祺瑞讨厌陈宦这几乎不是什么秘密，但对段祺瑞来说，湖南这样的战略要地必须控制在北洋系手中，陈宦虽然不招人待见，但也是北洋系将领，加上陈宦撤离四川时手上还剩了两个旅的兵力，派他进入湖南既可以敷衍黎元洪，又可以用北洋系的势力控制湖南，算是两全其美。
可是和汤芗铭在广东遇到的情形一样，陈宦在湖南也遇到了麻烦。首先，湘军并不想北洋系的势力进入湖南，所以非常反对陈宦的到来；其次，桂军的陆荣廷也不欢迎陈宦，湖南是北洋系与南方军事力量的缓冲地带，等于是桂军的前沿哨所，如果被北洋系控制住湖南，就是把大炮架在了桂军的门口。当时湖南各界推举年已七旬的刘人熙出任湖南督军，其他党派的人士希望调蔡锷回到湖南，国民党则希望由黄兴担任湖南督军，但是刘人熙年纪太大，蔡锷和黄兴均无意返湘，黄兴随即推荐谭延闿，谭延闿这个人和各方的关系都不错，而且也不属于北洋系。
段祺瑞这时才意识到湖南问题十分严峻，看起来不能过于着急。于是在7月12日，段祺瑞再次进行局部改组，以孙洪伊为内务总长，范源濂为教育总长，许世英为交通总长。7月14日，黎元洪下令惩治帝制复辟的祸首杨度、孙毓筠、顾鳌、梁士诒、夏寿田、朱启钤、周自齐、薛大可八人，这样就满足了护国军之前所提出的条件，同日，唐继尧、岑春煊、梁启超、刘显世、陆荣廷、陈炳焜、吕公望、蔡锷、李烈钧、戴戡、刘存厚、罗佩金、李鼎新等联名通电撤销西南军务院，声明国家事务静听元首、政府和国会主持。
为了暂时稳定湖南局势，陈宦自动辞去湖南督军一职，段祺瑞在7月16日改派刘人熙为湖南督军。但是段祺瑞并没有放弃控制湖南，他本来想派曹锟率部替代陈宦进入湖南，但当时他在北京刚站住脚，曹锟也还没有投靠皖系，随即留下曹锟为直隶督军，而转派自己的亲信吴光新率部接防岳州。段祺瑞派吴光新进入湖南，本意是想让吴光新先在湖南落脚，然后慢慢壮大势力最后继任湖南督军。但他的心思湘军将领怎么能看不出？湘军将领自然激烈反对吴光新入湘。
恰恰就在这个时候，回到广西的陆荣廷整顿兵马，准备按照段祺瑞之前的任命，进驻广东继任督军。段祺瑞闻讯以后大惊失色，他这一招本来是缓兵之计，哪知道陆荣廷他当成了真的，这样一来，湖南还没有抓稳，广东又要丢掉。万般无奈之下，段祺瑞在7月29日以国务院名义发出密电，征求各省军阀对广东问题的意见。另一方面，由于李烈钧没有接受北京政府的调令，徐树铮便在阁议时主张电令闽、粤、湘、赣四省会剿李烈钧，但是内务总长孙洪伊主张去电和解，双方争执不下。在阁议结束之后，徐树铮竟然擅自将会剿李烈钧的电报发出，等到四省督军复电国务院时，阁员们才得知此事。
在阁议席上，孙洪伊质问徐树铮为什么在阁议未定的前提下，就擅自做主向四省发出会剿李烈钧的电文，徐树铮仗着段祺瑞撑腰反唇相讥，双方拍着桌子吵得难分难解。8月1日，段祺瑞改派谷钟秀为农商总长，张国淦转任总统府秘书长，用老好人张国淦调停各方力量，同时削弱总统府势力在阁议中的影响，等于是公然偏袒徐树铮。
对于湖南督军的职位，当时湘军与护国军方面都非常敏感，只是北洋军已经控制了岳州，就等于形成了一个默契，只要北洋军不越过洞庭湖，双方的矛盾就暂时不会激化。段祺瑞意识到湖南这个地方太过敏感，目前情况下不宜过多刺激，加上广东的局势也不明朗，刘人熙的年纪偏大，于是在8月3日改派谭延闿为湖南省长兼署督军。这里段祺瑞又留了个心眼，署督军的“署”字意为暂代，就是说只是暂代督军，以后还可能会派一个督军。谭延闿在反袁时竭心尽力，所以在湖南很有威望，至少桂军和护国军方面对于谭延闿接任湘督都没有太大意见。
转过头来，北京政府在8月11日发表了处理广东问题的命令：“龙济光未交卸以前，责在守土，自应约束将士，保卫治安。李烈钧统率士卒，责有攸归。着即严勒所部，即日停兵。此后如再有抗令开衅情事，定当严行声讨，以肃国纪。”这条命令可以说是混淆视听，将龙济光说成是守土有责，而把李烈钧说成违反国纪，意在为各地军阀会剿李烈钧寻找到合适的借口。段祺瑞是以中央的威信向李烈钧摊牌，如果李烈钧再次违抗他的命令，他就号召全国共剿李烈钧。他的如意算盘打得好，但此时陆荣廷已经带兵到了肇庆，李烈钧的滇军无意继续攻击龙济光，陆荣廷却是想尽快吞下广东这块肥肉。
8月17日，李烈钧通电解除职务，在广东境内的滇军交由张开儒、方声涛两位师长统辖。20日，谭延闿正式就任湖南省长兼署督军，湖南的局势暂时稳定。22日，李烈钧和滇军告别，于27日到肇庆会晤陆荣廷后取道香港去了上海。李烈钧离开广东以后，陆荣廷则在肇庆装病，指挥桂军继续逼迫龙济光尽快离开广东。25日，萨镇冰抵达广州，和广东省长朱庆澜调停广东的局势，但陆荣廷依然以养病为借口待在肇庆，龙济光知道自己已经没有选择的余地，于是在讨到饷款后退到琼州（今海南岛）。而陆荣廷则担心形势有变，一直拖到当年的10月才在肇庆就任广东督军。
广东和湖南的事情算是暂时解决了，但总统府和国务院却依然在为这件事争吵不休。其实徐树铮这个人，不仅袁世凯，连黎元洪也不喜欢，徐树铮有才气有能力，但却有个最大的缺点，就是跋扈。当时段祺瑞提议由徐树铮出任国务院秘书长，黎元洪就很不满意，张国淦知道黎元洪的心思，只好去请教徐世昌，徐世昌恐怕黎元洪、段祺瑞闹僵，就奉劝黎元洪：“我以为你一万件事都可以不依从他，这一件非依从他不可，不要怕树铮跋扈，芝泉已经够跋扈的了，多一个跋扈也差不了多少。”黎元洪自然知道段祺瑞离不开徐树铮，虽然同意徐树铮为国务院秘书长，但规定国务院秘书长会见总统时须和总统府秘书长同时入见。
时任总统府秘书长的是张国淦，张国淦素来以擅长调和矛盾著称，有他在身边，黎元洪多少有些底气。但即便如此，徐树铮对黎元洪依然没有任何尊敬，只是将这个总统当成盖公章签字的摆设，黎元洪有时问起某一件公务的时候，徐树铮往往很不耐烦，说：“现在是责任内阁制，有总理负责，总统不必多问。”哪知道徐树铮的脾气过于骄横，连老好人张国淦也没有办法忍受，辞去了总统府秘书长的职务，而改由丁世峄继任。
丁世峄和张国淦不同，他性格坚韧，对徐树铮绝不轻易让步，提出国务院办事手续草案，建议“大总统得出席阁议发表意见，但不得参加表决；大总统对国务自由行使其职权。如用人不同意，得拒绝盖印。阁员应随时向总统面商要政，国务会议前须将议事日程呈报，会议后须将议事纪录呈阅”。丁世峄到黎元洪的身边之后，黎元洪的幕僚哈汉章、金永炎、黎澍、蒋作宾等很快也围聚到他的身边，段祺瑞非常恼怒，于是徐世昌再度出面调和，才使得段祺瑞做出稍许让步。经过徐世昌周旋，黎元洪和段祺瑞最终明确了府院各自的职权，将府院职权划分开来。
但是这样一来，国务院的大权几乎都集中在了徐树铮一个人的手里，不仅孙洪伊对此不满，其他阁员也非常不满。不久，在任命郭宗熙为吉林省长和查办福建省长胡瑞霖案的时候，徐树铮又只是得到段祺瑞的同意，在没有经过阁议，也没有主管内务总长副署的情况下擅自做主，以国务院的名义咨复国会。孙洪伊随即在阁议席叱问徐树铮与段祺瑞，并于8月30日辞去内务总长的职务。段祺瑞派许世英挽留孙洪伊，同时对内阁办事程序进行了调整。
10月1日，黎元洪在总统府召见孙洪伊，在这次交谈中，黎元洪和丁世峄拉近了孙洪伊与总统府之间的距离。没有多久，祝书元等二十八人到平政院提出控诉，原因是孙洪伊当初在裁汰内务部员司时，对他们的裁汰不符合文官任免休职条件，平政院决定受理祝书元等人的控诉，并要求孙洪伊五天内给出答复。孙洪伊则认为平政院是当初袁世凯设立的，平政院的存在本身就和旧《约法》的规定不符，所以对平政院的要求置之不理，10月7日，平政院裁定内务部非法，取消内务部做出的一切任免令，并且向大总统呈请执行。孙洪伊站出来怒斥平政院是非法机构，和平政院发生了激烈争执。
孙洪伊和平政院各自代表的府院力量针锋相对，而徐树铮与丁世峄也是互不相让。10日，黎元洪选择“双十节”这天，因为共和重建，特颁发大批授勋令，首授孙中山大勋位，蔡锷、唐继尧、陆荣廷、梁启超、黄兴、岑春煊六人以勋一位，段祺瑞、王士珍、冯国璋三人以一等大绶宝光嘉禾章……这次授勋所颁发的勋章之多，几乎到了数不胜数的地步，除了西南护国军和北洋系的各地军阀，甚至连前清的很多遗老遗少也得以授勋。黎元洪这次大肆授勋，一来为了主动缓和府院之间的紧张关系，二来希望拉拢各派势力。
但花样繁多的勋章并没有换来府院的和平，反而从阁潮演变为了政潮。18日，徐树铮忽然拿着“孙洪伊着即免职”的命令来找黎元洪盖章，黎元洪看到这个命令骇然不已，说什么也不肯盖章。此后徐树铮一连到总统府四次，最后一次甚至公然宣称，如果黎元洪不盖章，他就不允许孙洪伊出席国务会议。黎元洪此时愤懑难平，不管徐树铮如何威胁恫吓，始终没有盖章。这件事随即引发府院之间的巨大争议，国会议员王玉树认为要罢免一个总长，应该由国会提出弹劾，而不该由国务院总理独断专行。
24日，段祺瑞亲自来到总统府，请黎元洪在给孙洪伊免职的命令上盖章，但黎元洪仍然拒绝。眼见双方相持不下，黎元洪的幕僚出了个主意，既然双方都不让步，不如去把隐居的徐世昌请到北京来组阁以代替段祺瑞。黎元洪的幕僚们认为，段祺瑞的资本是北洋系，徐世昌的威望在北洋系中远高于段祺瑞，加上“辫帅”张勋又与徐世昌关系好。当时已经过了好长时间憋屈日子的黎元洪，完全给幕僚们想当然的想法忽悠住了，竟然想到派王士珍去请出徐世昌。
徐世昌和王士珍这两个不太服老的北洋老人，就这样又被黎元洪架上了神坛。徐世昌是多么精明的人物，他虽然拉不下面子被王士珍接进了北京，但对眼前的局势再清楚不过。
11月16日他抵达北京之后就住进了五条胡同，黎元洪来拜见徐世昌，也给他糊弄过去。但黎元洪的幕僚们显然还没有明白他们的处境，丁世峄甚至认为“半推半就是人之常情，徐世昌不会爽爽快快地表示自己愿意做总理”，于是，他们不顾黎元洪的反对，悄悄给当时在江苏督军的副总统冯国璋发去电文，假造“菊老已允出山”，请冯国璋发电捧场。
丁世峄的这招棋算是彻底走错了，袁世凯去世以后，冯国璋本来以为段祺瑞是要当总统的，结果段祺瑞将大总统的位置交给黎元洪，将副总统的位置交给了他，一下子让他的官衔超过了段祺瑞。虽说平常冯国璋对段祺瑞超过他有些不甘心，但是段祺瑞一抬举他，还真让他有点儿局促，正想着找个机会应酬一下段祺瑞，就碰上了丁世峄发来的电报。徐世昌有多少斤两冯国璋自然心知肚明，他急忙回了一封电报，希望内阁仍然保持原状，意思就是老徐别折腾了，还是让老段来吧！
黎元洪和他的幕僚们这可傻了眼、慌了神，这回倒是徐世昌淡定下来。17日，徐世昌到总统府提出兼顾府院双方威信的办法，就是同时将孙洪伊、徐树铮两个人免职，推荐老好人张国淦再次出山。结果这一次，段祺瑞倒是给了徐世昌一个面子，同时也为了维护自己的威信，让徐树铮和孙洪伊双双去职。
但是1917年的1月14日，步军统领江朝宗突然派兵到羊肉胡同孙洪伊的宅院里进行搜查，说孙洪伊的家里藏有“危险分子”八人，还有“阴蓄死士进行暗杀”的嫌疑，段祺瑞和徐树铮到底没有打算放过孙洪伊，一根筋的孙洪伊吓破了胆，急忙收拾家当逃往南京向冯国璋寻求庇护。