入豫作战，接连击败直系诸将，逼得吴佩孚跋涉蜀道、凄凉入川，但奉系自己也陷入了四面楚歌的地步。直系诸将纷纷溃败，皖系早已凋零，兀自支撑北洋危局的奉系，则因为郭松龄和王永江离去元气大伤，再次入关哪里还有当初的威风？张作霖的雄图霸业大梦难圆，他亦最终因霸业而起、因霸业而殁。到这个时候的奉系，已经不再是张作霖唱主角，而是换成了少帅张学良，以“小诸葛”自命的杨宇霆，既无力如郭松龄那样治军，亦无力像王永江那样治政，这才是奉系真正走向绝境的原因。
好话说尽，张作霖终于对吴佩孚动粗了。这一次，吴佩孚终于给张作霖回了电报，“现仍盼吾弟速令贵军停止前进，以便从长计定作战办法”。吴佩孚虽然不想和奉军开战，但他的部下靳云鹗已经私下与北伐军建立联系，吴氏对河南已经无法把控，只能困据孤城，靠几封电报劝阻张作霖。
而此时荣臻率领奉军先头部队业已进入河南，沿京汉线、陇海线两路向郑州进发，全军共5万余人，进入河南的奉军由于珍节制。奉军在陈兵于黄河北岸之后，1927年2月13日，张学良和于珍又自济南回到北京，在顺承王府参加由张作霖召开的军事会议，会议决定不理睬吴佩孚的态度，先头部队遂于15日开始渡河。
奉军既然非要进军河南不可，而靳云鹗又在组织豫军对抗奉军，吴佩孚既无法阻止奉军入豫，又无力控制靳云鹗，便只能任由双方开战。17日，张学良致电靳云鹗，“良虽不敏，向持四义。事上官以忠，事亲以孝，为国除贼，为社会求安。此心此志，如是而已。长者倘不鉴谅，必欲周旋于郑卫之野，谨当退避三舍，整旅以待”。3月5日，张学良自北京入豫，于7日抵达卫辉，遂召集于珍、荣臻、赵恩臻等重要将领开会，决定按照原计划分三路渡河，以于珍为中路、赵恩臻为西路、荣臻为东路，限令各军一周内渡过黄河，进逼郑州。
奉军入豫，吴佩孚又无法操控河南局势，8日，吴俊升、张景惠、张作相在张作霖的授意下致电吴佩孚，请其来京。此时靳云鹗在河南拥兵自重，吴佩孚早已失去了对军政大权的把控，按理说应邀入京实在是上上之策，但倔强的吴佩孚不愿屈居张作霖之下，再次拒绝离开河南。而渡河的奉军则因为缺乏民船，黄河铁桥断裂，加之豫军在南岸又布防严密，只能改变策略，以先头部队自东部绕道进攻中平。
11日，北京顺承王府内召开军事会议，决定由张学良、韩麟春等负责指挥河南前线，并调黑龙江、吉林的奉军入关担任后防。当日，于珍率部渡过黄河，经由朱仙镇自中平发动进攻，于12日占领中平车站，13日占领中平县城，豫军则退守白沙，奉军一直逼近到距离郑州15里的古城。在邹作华的炮兵掩护下，其余各部奉军亦趁机渡河，由荣臻亲自指挥，丁喜春、陈在新两个旅于14日冲至南岸占领芒山，于15日抵达荣泽县城。同日，西路的赵恩臻部亦自温县渡过黄河抵达汜水，与中路形成策应，从而形成三路奉军包围郑州之势。
与此同时，张作霖再次致电吴佩孚，不过这一次虽然“执事”“我兄”地叫着，却全然不讲什么兄弟之情了，劈头盖脸地把吴佩孚骂了一顿，“夫保大者，中华民国之领土，直隶省之辖境，并非执事所得而据，更非执事所得而攘。至于订立条件，鄙人并未与闻。其京汉之在直境者，直隶有之。如责直隶以据直隶之京汉，不责执事以据河南之京汉耶？责己则暗，无乃不恕。至于渡河进兵问题，弟曾于上月庚电奉达，谓无一言见告，何其健忘。且闻敌军已向信阳进兵矣，兄之部下，且引虎自卫。兄如不知，何以处二心之叛将？兄如知之，何以副讨敌之初衷？进退失据，无过于兹”。
张作霖嘴上骂着，手底下也不放松。奉军三面包围郑州之后，便在飞机和重炮的掩护下，对郑州发动猛攻。在内外失据、走投无路的情况下，吴佩孚只好率部离开郑州，然后挥泪入川。靳云鹗手下的猛将高汝桐率部去抢劫奉军的铁甲车，结果两车相撞，高汝桐被轧成了一堆肉泥。靳云鹗自知不是奉军的对手，便投向冯玉祥麾下归顺国民军，随后冯玉祥、唐生智分别进攻河南，张学良则致电吴佩孚邀请其移居郑州，并允诺当以老伯之礼待之，但逃亡路上的吴佩孚无心恋战，一路西向。
就在奉军入豫的同时，北京政府的顾维钧内阁却已摇摇欲坠，到3月下旬，财政总长汤尔和、海军总长杜锡珪、教务总长任可澄纷纷请辞，随后司法总长罗文干、农商总长杨文恺、内务总长胡惟德亦请辞，这样一来内阁中除了顾维钧，就只剩陆军总长张景惠、交通总长潘复两个人。28日，顾维钧到顺承王府面谒张作霖，表示内阁凋零，难以为继，希望张作霖能够另寻他人代阁揆，张作霖则对顾维钧极力安抚，希望他能够挺过这段日子。
到4月5日召开内阁会议的时候，汤尔和、罗文干等破例出席，国务院难得地热闹了一次。当时政府的烂摊子一堆，但内阁却没有办法解决一件，于是阁议也没有什么实质性结果。阁议结束以后，内阁依然是一片死气沉沉，7日，顾维钧再次向张作霖请辞。
到这个时候北洋政府的形势，可以说是岌岌可危，十余年来的财政问题因为与外国的巨额借款始终无法妥善解决，加上北伐军势如破竹，北洋要员要么竞相离京，要么观望态势。冯玉祥在西北声援北伐，河南的靳云鹗也已经投向北伐军，山西的阎锡山则始终在观望。奉军既要南下援助孙传芳，同时还要在河南抵御冯玉祥、靳云鹗，战线拉得太长，就有些顾头难顾尾了。到1927年的5月下旬，北伐军已经抵达黄河南岸，奉军遂决定放弃陇海线，退入直隶地区。
奉军之所以选择退入直隶，是为了巩固西北，所以力求先要站稳脚跟。当时东南战事进展不利，孙传芳退守清浦，张宗昌、褚玉璞的联军退守徐州，安徽北部已经被北伐军占据，只剩下河南和江苏之间的陇海线可以通行。随着许郾战紧，巩洛濒危，郑州便三面受敌。偏在此时，阎锡山忽然称病，闭门拒客，山西方面的局势立刻变得扑朔迷离，此时奉军已经深入豫南，如果阎锡山发难，陇海线和京汉线便会同时受到威胁，反倒是奉军可能落入进退维谷的地步。
为了以防万一，张作霖乃先下令以奉军对北伐军发动猛攻，在战事最为激烈时突然撤退，使北伐军措手不及。28日，张学良留韩麟春在郑州调度，自率预备队以及军团部由郑州退至直隶卫辉，其余各军则分别自兰封、东明、黄河桥及汜水四路撤退，同时，致电张宗昌弃苏保鲁，津浦线的直鲁联军乃同时放弃徐州，退守临城、韩庄，到31日晚间，奉军全部自河南安全退回直隶。
由于奉军担心阎锡山投向国民军于己不利，所以京汉线、京绥线立刻成为紧要之地。张作霖于是委任吴俊升为京榆后防总指挥，张作相为第五方面军军团长，率领黑龙江、吉林部队进驻保定。于是，大批奉军源源不断地开入关内。此时的北京城内，顾维钧的内阁已经形同虚设，而唯一可以定夺政府改组的张作霖却因为举棋不定，致使政府改组事宜一拖再拖。
此时的奉军内部分为两派，一是以吴俊升、张作相为首的旧派，一是以张学良、韩麟春为首的新派。韩麟春也是大学系，在郭松龄去世以后，他便继之成为张学良身边的心腹将领。6月9日，奉军各巨头在顺承王府召开军事会议，据说在会上，张学良、韩麟春等新派将领曾提出应该顺应潮流，主张易帜，改称国民革命军。老一辈的吴俊升、张作相代表旧派将领虽然反对，但也表示能够理解。
经过讨论达成几点共识。首先，奉系基本赞成三民主义，并拟加以适当的补充，为了尊崇旧的道德，再加入民德主义，构成四民主义。同时与山西督军阎锡山以及北伐军争取合作，先行宣布停战。如果对冯玉祥、唐生智必须一战，则当具体会商，重新布置作战任务。其次，以国民会议解决全国政治法律问题，反对一党包办，在此之前则由南北政府各办势力范围内的政务，至于外交事务则联合处理、一致对外。在停战合作之后，再进行南北政府的合并事宜，国民政府之委员制也可以商量。而在这些事情里，最为紧要的便是北京政府的改组。
但是在11日，张宗昌和孙传芳抵京后改变了事情的发展。孙传芳首先是不愿意参加革命的，张宗昌则认为奉军如果参加革命，于己不利。所以张宗昌和孙传芳抵京之后，最为反对奉系和国民军合流，同时更为反对和谈，并极力主张改组北京政府，由他们举荐的潘复出面组阁。但既然要改组，便需要一个人出来发号施令，此时北京已经没有了元首，张宗昌和孙传芳便尽力主张请老帅张作霖就任陆海军大元帅，以大元帅名义派潘复组阁。这么做乃是为了避免由顾维钧内阁任命，而涉嫌承认曹锟宪法的问题。
16日下午3时，奉系诸将再次在顺承王府召开军事会议，开会时，张宗昌慷慨陈词，“今后的敌人不是北洋系了，非战不可，不战必亡，与其入棺待死，不如痛快大干。升格之后即或情势不佳退出关外，有了大元帅的称号犹可仿照孙中山在广东局面，易于号召也”。张宗昌的这番话非常率直，让张作霖大为感动，因此毅然决定对北伐军作战，以做北洋系的最后挣扎。在会议有了结果以后，张作霖即发出通电，“一切主义，但于国利民福不相冲突，尽可共策进行。大权操之全民，政治自循常轨，仍当以海内贤豪讨论公决。作霖未娴政事，除完成讨赤事业外，固无丝毫成见，为此鹬蚌之争也”。
在张作霖发出通电之后，是夜张宗昌、孙传芳又领衔发出拥护张作霖就任陆海军大元帅的通电，“传芳等当身先将士，尽力疆场，以赴拯民水火之忱，而尽殄除暴乱之责。切请勿拘小节，而失人心。勿慕谦先，而酿巨变。总之全国之人将死，惟我总司令生之。全国之士将亡，惟我总司令存之。事机所迫，间不容发，干冒尊严，不胜惶悚屏营之至”。张作霖既决定就任陆海军大元帅，便邀请其政治顾问梁士诒、叶恭绰、曹汝霖、曾毓隽、梁鸿志到顺承王府征求意见，梁士诒等人自然没有异议。
顾维钧早就想要摆脱尸位素餐的总理职务，原本想辞去总理之后，专意做外交总长，但时局每况愈下，他连外交总长也不想做了，于是留下一封信弃职而去，“一面仍望诸公迅与雨帅赓续协商，速定改组内阁方法。维钧亦已函陈雨帅，请其主持。总期人心有所系属，而国本不致动摇。同舟半载，诸赖匡襄。咎积灾生，不克相与终始”。此时王宠惠已经南下，汤尔和、罗文干请辞，此时不管张作霖是否出任大元帅，能够组阁的都只剩潘复一人了。
1927年6月18日，张作霖在怀仁堂就任陆海军大元帅，终于实现了自己的独裁之梦。当天清早，北京长安街自顺承王府的东西向，戒备森严，到下午，除了悬有安国军黄牌的汽车以外，一概禁止通行，连电车都被暂停。午后2时，总统府侍从武官荫昌及大礼官黄开文乘坐礼车赴顺承王府迎接，张作霖身着陆军上将制服，奉军将领吴俊升、张作相、杨宇霆、张学良、韩麟春等皆身着军礼服相随，孙传芳则身穿黑纱马褂、淡蓝纱袍，于2时50分抵达怀仁堂。
奉系诸将先后跟随张作霖抵达怀仁堂，孙传芳在行礼之前讲话最多，而张学良和韩麟春则姗姗来迟。待诸将到齐之后，就职典礼在3时30分才告开始。以黄开文赞礼，张作霖南向而立，待奏乐完毕，张作霖即宣布“作霖忝膺中华民国陆海军大元帅之职，誓当巩固共和，发挥民治、刷新内政、辑睦邦交，谨此宣言”，正式就任海陆军大元帅。待就职典礼结束之后，张作霖于3时50分返回顺承王府，随后便公布中华民国军政府组织令，同时任命潘复为国务总理。
除此以外，张作霖又发表通电，“为此敬告父老兄弟，凡我同人，一切设施，必以民意为依归，共救人心之陷溺。用期力挽颓波，迅除巨患”。同日，潘复宣布出任北洋政府内阁总理，即开始组阁，潘复内阁是北洋政府第三十二任内阁，也是最后一任。潘复自兼交通总长，以沈瑞霖出任内务总长、阎泽溥出任财政总长、王荫泰出任外交总长、何丰林出任军事总长、姚震出任司法总长、刘哲出任教育总长、张景惠出任实业总长、刘尚清出任农工总长。
张作霖维系自己的下属，靠的是一个“义”字，所以趁着北京会议时各方要人聚集北京，他又搞了一次结拜。这一次结拜的共有十二人，以黑龙江督军吴俊升为老大，老二是热河都统汤玉麟，老三是北京政府国务院陆军总长张景惠，张作霖居老四，老五是察哈尔都统高维岳，老六是吉林督军张作相，老七是时任国务总理的潘复，老八是山东督军张宗昌，老九是浙江督军孙传芳，老十是安国军总司令部总参谋、东三省兵工厂督办杨宇霆，老十一是张学良的心腹韩麟春，老十二则是直鲁联军的另一位当家人褚玉璞。
张作霖在北京就任陆海军大元帅的时候，山西的阎锡山却公然在省内挂起了青天白日满地红旗，同时将所部12万晋军改编为北方国民革命军，并向大同、娘子关方向移动。但阎锡山也知道奉军家底厚、不好惹，于是跟张作霖声明，晋军出动是因为奉军北撤，他担心临时不易布防，所以把所部停驻在井陉，并且表示不再前进。随后阎锡山宣布就任国民革命军北方总司令，通电服从三民主义。28日，张作霖派邢士廉到太原与阎锡山商议如何解决时局，同时命令奉军在京绥线增加两个旅防御晋军商震部。
晋奉两军阵前对峙，阎锡山派自己的驻京代表李庆芳去找张作霖，北伐军势如破竹，西北军虎视眈眈，如今我阎老西儿都倒向国民军，你为什么还抱着北洋政权不撒手？邢士廉没有能够说服阎锡山，李庆芳自然也不能劝服张作霖。到北洋军阀末期，阎锡山已经成为除张作霖、吴佩孚、孙传芳之外的第四大势力，阎锡山倒向国民军，张作霖遂与阎氏决裂，晋奉一战便势所难免。