北洋军阀时代，以带兵军纪严明著称的，首推三个人：吴佩孚、冯玉祥和张作霖。吴佩孚是秀才出身，动辄就满口“大义”，秀才统兵，令行禁止是第一位的，但是等到查家墩再起，吴氏的兵东拼西凑、素质很差，军纪虽在，但下面的人当不当回事便不知道了；张作霖虽然是土匪出身，却最注重军纪，不过后来势力大了，手底下人多也杂，就管不过来，嫡系的第三军倒是军纪严明，结果让郭松龄倒戈一下子搞得损失殆尽；冯玉祥也是以统兵严格著称，但手底下的将领水平太一般，所谓的“十三太保”给奉军一冲击就散掉了。
直奉携手击溃了冯玉祥部之后，吴佩孚就赶回湖北去稳定局势，而张作霖随后不久也回到了奉天。但是1926年的夏秋之季，注定是直系军阀最后的时光，吴佩孚自东山再起之后，便已经不复旧日的威风。北伐军长驱直入，两湖转瞬就被攻克，吴佩孚回到湖北也于事无补，抵挡一阵，就匆忙撤回河南。在汉口与北伐军的一战，可以说是直系军阀吴佩孚最后的演出，待他败回河南，所有人都知道吴大帅的辉煌已经属于过去。于是，直系军阀便不再买他的账，手下大将靳云鹗与他交恶，河南的各派军阀也不再服他管，他本想着回河南召集旧部反攻两湖，结果竟没有了下文。
另一位直系大将孙传芳，在吴佩孚被北伐军打得节节后退的时候，却采取了坐山观虎斗的态势，只想着北伐军与吴佩孚鹬蚌相争，他来个渔翁得利。哪知道吴佩孚兵败如山倒，轮到孙传芳对抗北伐军，他也好不到哪里去，江西、福建各地很快就被北伐军接收。孙传芳本来是想借吴佩孚和北伐军两虎相争之后，捡个大便宜，哪知道反而成全了北伐军，对北洋军阀各个击破。
到10月间，北伐军势不可挡，北京的北洋政府就变得风雨飘摇。杜锡珪本来是靠着吴佩孚才当上内阁总理的，吴佩孚既已战败，倾向奉系的官员便不把他放在眼里。待孙传芳也屡战屡败，政务也愈加棘手，北伐军眼看着就要北上，他便积极请辞。5日，改由财政总长顾维钧兼代阁揆，顾维钧是外交官出身，在巴黎和会上一鸣惊人。张学良在京时，经常出入顾维钧的私邸，晚年谈及顾维钧，再三表示“我和他两家很好”。
顾维钧能够代阁揆，自然得力于张学良的推荐。到了晚年，张学良品评民国的风云人物，评价最高的，一个是周恩来，一个就是顾维钧，张学良说顾维钧“实在是个能干的人，但是他不卖力气。他要是真卖力气他真行，可是他不卖力气”。
不知道代阁揆的时候，顾维钧是不是“不卖力气”，但是他代揆一个多月，却没有任何作为。于是在11月9日分别致电张作霖、吴佩孚、孙传芳、阎锡山和张宗昌，“维钧以身许国，何敢告劳。惟似此情形，在个人之负疚犹小，而国家之陷溺弥深。所冀诸公共发宏谟，早戡国是。维钧立可进而让贤，退而补拙”。
可是这封通电发出去，这几位巨头却没有几个人理会。吴佩孚陷于河南早没有了发言权，孙传芳则正在东南苦战，阎锡山自来都是偏安山西的土皇帝，张宗昌的山东旦夕之间也在北伐军的枪口下，奉系大佬张作霖便成为焦点。此时长江半壁已经在北伐军的控制下，早在北伐军进攻湖北的时候，本已下野的冯玉祥就自苏联回国，随后就任北方国民革命军总司令，在西北誓师响应，挥师开入潼关。
北洋政府此时正是危急存亡关头，众望所归的张作霖在10日由奉天入关，随后抵达天津。和北洋系之前历次的政府事务一样，先在天津想好策略，进京之后再着手解决。当时北洋军阀的各派势力，最完整的就是奉系，可以说是“兵多、械精、饷足”，以战斗力来说，似乎也是以奉军最强。所以抗衡国民革命军和整顿北京政府的事情，几乎全都维系在了张作霖身上，这是北洋军阀自创建以来从未出现过的局面。
以前的皖系、直系和奉系，虽然相互征战，但是却相互依存。皖系军阀战败以后，但其势力仍然尚存，才会有直奉战争中的反直同盟；而直系军阀战败以后，其势力也没有完全瓦解，孙传芳割据东南，吴佩孚也很快在湖北东山再起。但是到此时此地，直系的力量已经奄奄一息，皖系的力量早已经散尽，可以说是奉系军阀独木支撑着北洋政府。这既是张作霖最想要的局面，也是张作霖最不愿意面对的局面。
首要的问题是北京政府，以前的临时执政府是吴佩孚拥立的，张作霖虽有不满，但是并没有固执己见。如今吴佩孚已经成了强弩之末，自顾尚且不暇，哪里还顾得上北京政府的事情？到了这个境地，北京政府便完全由张作霖做主了，那么张作霖又该选择谁来执政呢？是抬出北洋元老段祺瑞、王士珍，还是以张作霖自己来主政？张作霖其实有心自为，但觉得这样的关键时刻，不宜因为此事引起北洋内部矛盾。
眼下最要紧的，是北伐军和冯玉祥的西北军。原本对付北伐军的是吴佩孚，在吴佩孚失败之后就是孙传芳，但现在孙传芳也节节战败，如果吴、孙皆被北伐军击溃，则北伐军便要长驱直逼京畿，北方形势就变得岌岌可危。为了抵抗北伐军，张作霖便需要尽快拿出援助吴、孙的办法。另一方面，冯玉祥此时业已率部在陕甘一带活动，成为张作霖的心腹大患，于是不仅要南下进攻北伐军，还要调兵去驱逐西北军。
就在张作霖抵达天津的第三天，张宗昌也于1926年11月13日下午自济南抵达天津。至此，奉系方面各巨头聚集一堂，张作霖遂于翌日下午召集奉系各军的中上级军官在蔡家花园召开军事会议。根据此次军事会议，奉系诸将决定自津浦线和京奉线大举南下进攻北伐军，由张宗昌、褚玉璞指挥直鲁联军，由韩麟春指挥奉军。其实奉军的这个计划早在一个月前就已经拟定，只是当时孙传芳尚与北伐军激战，奉系恐此举招致直系不满，所以暂缓实施。
计划虽然确定下来，但是问题依然存在：张宗昌的山东部队既然要南下，是选择直下浦口，还是经由徐州转陇海线进入河南呢？因此奉军要出兵，便先取决于吴佩孚和孙传芳的态度。早在计划最初制订出来时，张作霖便不急于实施，而是准备坐等吴佩孚和孙传芳求援。哪知道吴佩孚丢失两湖，逃到河南身处困境，却始终没有向张作霖乞援；而孙传芳在东南苦战，被北伐军打得连连后退，却也不肯向奉军求援。
但随着战事的发展，孙传芳率先服软，他派出自己的代表杨文恺到天津面谒张作霖，表示一切悉听张作霖安排。但是困守河南的吴佩孚，仍然不愿意向张作霖乞援。既然南下的事情一时无法确定，张作霖便积极筹划进攻西北的事务。西北军一直都是最让奉军头疼的武装，所以张作霖拟令高维岳和汤玉麟会同阎锡山、商震迎击西北军，以遏制冯玉祥在陕甘一带的活动。
19日，自江西战败的孙传芳从南京乘专车北上，到天津面谒张作霖。孙传芳的这次北上，可以说做得极为保密。当时铁路军只知道这节专车乘坐的是孙传芳的参谋长刘宗纪，而刘宗纪对外则宣称是北上来迎接其母，孙传芳则只带了两名幕僚和两名副官上车，轻装简行，丝毫没有被人注意。待抵达天津之后，孙传芳随即驱车拜访吴光新和张宗昌，在吴光新和张宗昌的陪同下去会晤张作霖。
孙传芳的崛起乃是因为驱逐奉军将领杨宇霆、姜登选，进而掌握江苏、安徽，坐上五省联帅之位。但此时成了败军之将，北上面谒张作霖是为了乞援，所以对张作霖低声下气，再三表示东南大局悉听雨帅（张作霖字雨亭）主持。同时，孙传芳表示自己误国误民，实在羞愧难当，决定引咎辞职，将江苏方面交给卢香亭、浙江交给陈仪、安徽交给陈调元，自己则率部静听张作霖差遣，即便是只剩一兵一卒也绝不愿意向国民党屈服。
张作霖对于孙传芳的态度非常满意，自然要做足奉劝、挽留的功夫。随后，奉系便与孙传芳召开天津会议，决定公推张作霖为联军总司令，以吴佩孚、孙传芳为副司令。然后拟命令张宗昌、张学良、韩麟春、褚玉璞率兵南下，而以张宗昌、褚玉璞为先头部队，张宗昌回到山东以后即先行出动，将车辆集中于韩庄。以察哈尔部队向绥远包头进击冯玉祥，待击溃冯玉祥部以后即撤回，决不留驻绥远，另以山西督军阎锡山部协助刘镇华部抵抗冯玉祥。同时命令渤海舰队、东北舰队同时出动封锁海口，断绝北伐军外援。京汉线方面则需要吴佩孚明示，如果吴佩孚确有力量则需尽快南下，否则由奉军代劳。
22日，张作霖又电召杨宇霆入关，共同商讨对南作战的策略。张宗昌此时已经返回山东积极备战，26日，张宗昌的先头部队业已抵达浦口，随即便开始渡江，张宗昌便把总司令部设于浦口，津浦线铁路局长奉命组织总运输部。一切安排妥当，张宗昌便准备率领白俄军团赴浦口督师，此时忽然接到张作霖来电，于是在29日又启程北上进入天津。原来在杨宇霆抵达天津以后，经过连日讨论，决定先展开部队，占据并巩固有利位置之后，再相机对北伐军发起攻势。
奉军制定的策略更为注重陇海线的东西干线，集中在郑州和徐州之间，因为张宗昌部已经在徐州完成集结，陇海线与津浦线也就得到巩固，于是决定命令张宗昌部继续加强京汉线，在京汉线方面未布置妥当之前，暂不渡江。在得到了新的命令以后，张宗昌即致电所部各军暂且在津浦线南段驻扎，以浦口为终点，不要越过长江。
自袁世凯病逝、段祺瑞失势，历任的北洋系大佬都梦想着能够统一北洋军阀，但是直到张作霖主政，北洋系才再度团结到一起。但此时北洋系的团结，却有些难言的苦涩，皖系早已凋零，直系四分五裂，奉系饶是兵强马壮，但面对士气如虹的北伐军，多少已经显露出些许日薄西山之态势。人之将死会有短暂的回光返照，而北洋军阀在行将退出历史舞台之际，也呈现出了最后的辉煌。
因为吴佩孚始终没有表示，张作霖于是派张景惠、田中玉、鲍贵卿、许兰洲四人在1926年11月26日乘专车自津浦线转陇海线赴郑州与吴佩孚接洽，同时命令奉系要员到保定请曹锟到天津一叙。因为冯玉祥在陕甘一带的活动日益频繁，奉系此时和山西督军阎锡山的联系便日趋频繁，阎锡山遂应允会派兵帮助奉军阻止冯玉祥，并愿意拥护张作霖入主北京。话说到这里，军事上基本已经部署完毕，内阁问题需要开始着手解决了。
就在天津会议召开的同时，顾维钧内阁提出了总辞职，张作霖虽然再三表示不准备改组内阁，但顾维钧及其内阁成员大多都已经无心恋战，北京遂进入无政府状态。北京无人主政，各派军阀便趁机电促张作霖出来主政，30日，由孙传芳领衔，阎锡山、商震、寇英杰、刘镇华即奉系高级将领共16人联名通电，公举张作霖主持大局，“伏审我公公忠体国，视民如伤。四海威加，万流敬仰。当经集议研讨，询谋佥同。谨愿推戴我公为安国军总司令，统驭群师，同申天讨”。
鉴于各方拥戴，张作霖遂于12月1日下午3时许，在天津蔡家花园就任安国军总司令，在天津的北洋系诸将纷纷前来拜贺。张作霖则任命孙传芳、张宗昌为安国军副司令，杨宇霆为参谋长，同时发表通电，“近年暴徒骚扰，全国苦兵，凡安国军师行所至，军纪风纪，整齐严肃。但知救国，决不扰民。作霖戎马半生，饱经忧患。只期国家谋永久之安，决于个人无权利之见。事平之日，仍当与海内外名流，共商国是。总期造成真正法治之共和国家，不致使神明华胄，陷于洪水猛兽。免为世界人类所不齿，则幸甚矣”。
张作霖在任命孙传芳、张宗昌为副司令之前，本来属意吴佩孚，曾以统一指挥为由致电吴佩孚。张作霖的意思是，当初南口激战，吴佩孚久攻不克，便将南口的指挥权交给了奉系，如今世易时移，吴佩孚既然无力出兵援助两湖，何不效仿当初南口之事，以奉系主攻退而为次呢？但吴佩孚这一次却未予回应，张作霖遂以安国军总司令名义致电吴佩孚，“北方陷于无政府状态，军事上不足以资号召，请将尊见示知”，结果吴氏仍然不理不睬。
27日，就任安国军总司令的张作霖终于自天津乘专车抵京，安国军总部高级人员全体随行。自郭松龄倒戈、王永江离职之后，张作霖最言听计从的心腹便只剩杨宇霆，所以进京之后由谁来组阁，实际上便是由杨宇霆说了算。当时在北京风传最热门的组阁人选包括靳云鹏、梁士诒、莫德惠等，但最终，杨宇霆还是向张作霖建议以顾维钧留任。顾维钧是吴佩孚所拥立，又与奉系将领多有来往，加上当时并无合适人选，顾维钧便再次被请到前台。
1927年1月12日，顾维钧宣布组阁，自兼外交总长，并任命胡惟德出任内务总长、汤尔和出任财政总长、张景惠出任陆军总长、杜锡珪出任海军总长、罗文干出任司法总长、任可澄出任教育总长、杨文恺出任农商总长、潘复出任交通总长。为了协调各方关系，顾维钧原本有意以田应璜出任内务总长，是阎锡山的代表，也深得奉系的信任，但田应璜却以年老为由拒绝了顾维钧的任命，顾维钧才只好请出胡惟德。
虽然顾维钧组阁成功，但其实北京城内真正的当家人依然是张作霖，当时北京城里万众瞩目之地既非总统府也非国务院，而是张作霖下榻的顺承王府。内阁这个全国最高领导机构名不副实，因为张作霖在安国军总司令部内也设立了政治、外交、财政三个讨论会——政治讨论会以梁士诒为会长，曾毓隽为副会长；外交讨论会以孙宝为会长，陆宗舆为副会长；财政讨论会以曹汝霖为会长，叶恭绰为副会长。
稳定了北京政局，张作霖便不准备再等吴佩孚发话了，15日，他命令张学良、张宗昌以武力“援吴”，先肃清黄河北岸，然后渡河进至郑州。随后，奉军开入河南境内，张作霖发出通电，宣布奉军入豫，“只以豫中系吴玉帅驻节，再三商询，自认反攻，我军虽切缨冠之谊，并无飞渡之能。兵至直南，及河而止。今时阅半年，未闻豫军进展一步。反攻之望，完全断绝。而敌焰日涨，窜扰闽浙，长江上下，将无完土。本军负专征之责，国事兴亡，义难坐视”。同时，张作霖致电吴佩孚，“弟既承公推之雅，负专征之责，坐视不救，何以对民？会师爽期，何以对友？大乱不平，何以对国？再不自决，行将噬脐。是以简饬师徒，渡河南进，取道京汉，攻取武汉。贵部将士，但与我辈宗旨相同者，一切地位名义悉仍其旧，并望互相援助，切勿误会”。