张作霖的野心在一步一步地扩张，随着东三省都被他据为己有，他便开始将自己的视线投向关内。当时关内的两股军事力量是皖系和直系，皖系以段祺瑞为首，直系以冯国璋为首。皖系是北洋军阀中率先崛起的军阀集团，代表着北洋系中守旧的一派。直系军阀则是北洋系后崛起的军阀集团，虽然冯国璋和长江三督没有什么超强实力，但新兴崛起的直系军阀曹锟成为一个最大的未知数。皖系军阀与直系军阀之争，其实是北洋系中新旧势力之间的一次冲突，而这次冲突却给张作霖提供了入关的最好契机。
吉林督军职位的争夺，亦是皖系军阀与直系军阀之争。孟恩远是天津人，自然倾向直系，而张作霖素来和段祺瑞走得很近，就倾向皖系一边。北京政府准备撤换吉林督军的消息传来，孟恩远急忙派秘书戴艺箪到北京去联络冯国璋，冯国璋当时虽然贵为总统，但与段祺瑞有君子协定，便没有理会这件事。1917年10月18日，任命传到孟恩远的手上，孟恩远便致电北京内阁问讯调动的理由，称如不回复则吉林将宣布自主，派吉林混成旅旅长裴其勋为独立军总司令，并指使吉林各团体电请北京政府收回成命。
此时冯国璋也感觉到，如果以田中玉替换掉孟恩远，会给直系在东北的势力造成损失，于是又请北洋系元老徐世昌、王士珍出面调停。同时，冯国璋又授意直系军阀王占元等联合各省北洋军阀发出联名通电，以此事牵涉国防、外交事宜为由，请求政府维持吉林现状。段祺瑞此时正忙于南北战事，也无心管理东北事务，于是吉林易督的事情不了了之，既不撤换原令，也不准予实施。
张作霖本想借机一口气吞并吉林，但段祺瑞既然不再过问，他也不好穷追不舍。但张作霖始终咽不下这口气，正好趁着这个时候对黑龙江派兵，以吴俊升率领第二十九师自郑家屯突然开赴齐齐哈尔，以武力压迫黑龙江骑兵第四旅旅长英顺、步兵第二旅旅长巴音额，解除了他们二人的兵权，从而完全控制了黑龙江。到这个时候，吉林督军孟恩远便被张作霖和吴俊升夹击，首尾受制，他的日子过得更困难了。
虽然暂时无法吞并吉林，但东三省的局势已经尽握在张作霖的手里。在此时，关内的局势则愈加紧张，段祺瑞的心腹徐树铮以“接治国防”为由北上面谒张作霖，希望奉军能够联手皖系打压冯国璋，从而平定南方，完成皖系“武力统一”的夙愿。张作霖对皖系的“武力统一”并不感冒，却愿意帮助皖系达到驱逐冯国璋的计划。驱逐冯国璋对奉系来说大有裨益，一来在驱逐冯国璋的过程中，奉系可以借机大肆发展自己的势力，二来只要冯国璋垮台，孟恩远便失去了后台，就可以趁势将吉林收归己有。
徐树铮来和张作霖商量入关助皖的事情，可以说是一拍即合，张作霖随即挥师入关。奉军入关，着实把冯国璋吓得不轻，张作霖这股关外势力自民初便不可小觑，当初袁世凯在时，尚且要破格接见张作霖多番安抚，更何况是无兵无权的冯国璋？1918年2月24日，奉军扣留了京奉线上的所有列车。25日，奉军第二十七师第五十三旅抵达滦州，奉军参谋长杨宇霆带兵进抵秦皇岛，劫走了日本政府根据中日军械借款协定运抵的步枪27000余支。26日，张作霖致电北京政府表示已经在部署南征，“此次奉天请领军械，系奉元首讨伐明令，整饬军队，为政府之后盾”。
就“武力统一”问题，冯国璋是极力反对的，主要原因是直系的地盘江苏、湖北和江西正处于南北要冲，南北一旦开战直系的地盘受冲击最为严重。当时皖系军阀一家独大，各省督军几乎都站在段祺瑞一方，站在冯国璋一方的只有以江苏督军李纯为首的长江三督，后来据说在陆建章的运作下，冯玉祥也开始拒绝参战。所以奉军一开入关内，张作霖便提出罢免李纯和讨伐冯玉祥两个要求，冯国璋只好请出赵尔巽，请他去说服张作霖退兵。赵尔巽去见张作霖，该说的话都说了，张作霖不退兵，赵尔巽也没有办法。
3月5日，奉军一部由天津开到廊坊，随即在廊坊车站开始对往来旅客进行检查，使中外人士惊愕不已。北京国务院急忙去电制止，廊坊并非戒严区，不能够检查旅客，但奉军置若罔闻，依然如故。张作霖则发出通电，表示“出兵扣械，系坚元首主战之心，兵已入关，无可撤退，长江有事，即可南下应援”，对在廊坊戒严一事只字不提。随后，张作霖电请北京政府在天坛一带制定营房以供奉军进驻，但是不等北京政府复电，便指示奉军将领在天坛、南城一带寻找兵房。
因为张作霖的部队逼近北京，北京城内便传出流言，说辫子兵复辟的局面可能将会再度出现。因为张作霖的四女儿张怀卿嫁给了“辫帅”张勋的傻儿子张梦湖，而张作霖的幕僚中也有很多是复辟派，加之奉军进京时的架势，与当年张勋率领辫子军进京时的情势非常相似。于是，北京城内的很多达官显贵都纷纷出逃，车站上挤满了出京的旅客，北京城里更是人心惶惶，如同是要遭遇大难。
冯国璋在总统府慌得无计可施之际，主战的直系军阀曹锟、皖系军阀张怀芝和张作霖却忙于互相通电，吹捧之余，又将紧张气氛烘托到高潮。就在奉军对廊坊戒严的当天，张作霖发出通电表明自己是“拥护中央，维持大局，始终团结，戡平内乱，联络同志，共救危亡”，并表示自己已经率部入关，做好了南下作战的准备，如果不能开拔，“则对同志为不信，对我兄为不义”，号称所部各旅即日就能开赴徐州，听候曹锟和张怀芝的指挥。在通电中，张作霖还极力解释自己并无个人野心，“只以目前时局为重，弟处扩张实力，专以辅导我兄起见，此外毫无私意，若有虚言，鬼神鉴察”。
1918年3月7日，曹锟便发出通电欢迎奉军入关。在这封电报里，曹锟极力称赞张作霖是如何的“耿耿大义，磊落光明，骨肉之交，谊共生死”，并且请奉军加派一个或两个混成旅开至汉口加入第一路，再以奉军主力集中于徐州加入第二路。张怀芝也于当日发出通电，称赞奉军入关是“壮我士气，固我后援”，并称已经指定韩庄为奉军南下的第一站。主战派之间通电往来好不热闹，逼得冯国璋只好也发出通电响应主战。
12日，皖系军阀倪嗣冲抵达天津，电邀张作霖到天津共同策动拥护段祺瑞组阁和罢免李纯，同日，奉军在距离天津50里的军粮城设立关内奉军总司令部，张作霖自兼总司令，徐树铮以副总司令名义代行总司令职权。这一段时间，虽然张作霖叫嚣得很厉害，但其实本人并未入关，关内的奉军几乎都是在徐树铮的指挥下，但恰是通过利用皖系军阀的信任，张作霖的奉军得到了扩编的机会，也自段祺瑞处得到了大量枪械和财政上的支持。23日，段祺瑞再次成为内阁总理，张作霖没有出太多力气，却居功至伟。
段祺瑞再次组阁，他的本意是希望再次掌权之后继续推行“武力统一”，加大对南方作战的力度。但各系的北洋军阀只是希望北洋系重新控制北京实权，一旦段祺瑞重新执政，他们便无意再继续到前线去拼命。南北战争陷入僵局，皖系的徐树铮急忙南下斡旋，他原本是想挑拨直系大将吴佩孚脱离曹锟单干，事败后又准备将自己所率领的奉军运抵前线去接替直军与南方交战。张作霖之所以帮助段祺瑞，为的是扩张势力、扩充实力，而如今皖系将领和直系将领都不欲继续征战，徐树铮却要把张作霖辛苦壮大起来的奉军换到前线去，张作霖自然不愿意，密令奉军各将领一致抵制徐树铮。
各地军阀的厌战情绪强烈，加上冯国璋卸任总统一事业已确定，段祺瑞只好组织在天津召开军事会议，专门讨论总统问题和南征问题。7月28日，张作霖抵达天津，亲自参加了督军团会议。自1902年接受点编，到如今涉身天津，十余年时间一晃而过，那个啸聚山林的胡子张作霖，已经摇身一变成为了北洋军阀中举足轻重的人物，各方军阀竞相拉拢，那些早年间就已经跻身北洋系高层的将领们，都不得不对这位小个子的东北军阀礼让三分。
在天津会议上，张作霖赞成推举徐世昌为下任总统，并建议段祺瑞出任副总统。但是在此之前，徐树铮已经将副总统一职允诺给曹锟，可是如今张作霖亲自入关，皖系便又想用副总统的职位来拉拢奉系，以此鼓励张作霖同意奉军南下作战。曹锟本以为副总统的职位手到擒来，发现皖系在以此为饵，引他与张作霖就范之后，大为失望，便站到主和一派。段祺瑞获悉之后，本想邀请曹锟入京详谈，但是被曹锟拒绝。
曹锟拒绝南下作战，段祺瑞和徐树铮便转头来做张作霖的工作。当时各省军阀都主张以奉军为前方主力，以代替此时已经在前方举步不前的直系吴佩孚部。副总统的位置虽然诱人，但张作霖也不愿意将自己的部队送去当炮灰。张作霖于是建议把奉军当作各路战线的总预备队，随时应援前方，意思就是让别人去冲锋陷阵，奉军在后面待命，其他的军阀自然也不愿意这么干。
会议自7月31日开始，一直开到8月9日，却没有取得任何进展。此后各省军阀纷纷离开，张作霖虽然待在天津，但是已经对北京政局了无兴致。但就在此时，张作霖发现自段祺瑞第三次组阁以后，代理奉军司令职务的徐树铮一共代领军费550万元，而奉军只收到了180余万元，查问后才知道徐树铮把这笔钱用到编练参战军和组织新国会上去了，恼羞成怒的张作霖立即解除了徐树铮职务，并且嚷嚷着要和徐树铮算账。段祺瑞听说以后，急忙叫徐树铮去当面谢罪，并尽快归还款项。
张作霖一发火，连平素嚣张跋扈的徐树铮都不得不低头，奉系此时在北洋军阀中的影响力已经不言而喻。在入关之后，北洋军阀中的各方势力都来拉拢张作霖，尤其是以曹锟为首的直系力量，更是极力讨好张作霖。张作霖自进京之后，便听到人们讨论徐树铮如何跋扈，北洋各军如何遭受他的欺凌。起初张作霖并不大相信，直到徐树铮居然敢擅自挪用奉军的军费，张作霖始相信他人并非妄言。虽然徐树铮受段祺瑞之命到北京来赔罪，但张作霖对皖系军阀的好感便自此开始消退。
为了极力安抚张作霖，北京政府于8月24日任命张氏的爱将张景惠为奉军暂编第一师师长，多少才让张作霖的情绪有所平复。待冯国璋下台，徐世昌继任总统以后，徐世昌和黎元洪、冯国璋一样，无兵无权，他有意在段氏的皖系和曹氏的直系之外扶植新兴力量，借以节制皖系、直系，于是便任命张作霖为东三省巡阅使，等于是默认将东三省的军政大权都交给了张作霖。
在北洋军阀看来，张作霖已经成为影响时局的重要力量，所以皖系的段祺瑞、直系的曹锟和新任大总统徐世昌都极力拉拢他。同时冯国璋已经下台，南北和谈和副总统难产让北京局势变得复杂，巴黎和会的外交失败又引发了学潮，北京方面暂时无力过问东北，张作霖自恃有这些利好条件，便决定转过头来对吉林下手。1919年6月，张作霖致电徐世昌，请他将孟恩远调往别处，而以鲍贵卿改任吉林督军，以孙烈臣出任黑龙江督军。
当时徐世昌正想尽办法拉拢张作霖，凡是张作霖的请求几乎没有不同意的。7月6日，北京政府发布任命，调孟恩远为惠威将军离开吉林。此时的孟恩远已经年逾六旬，其势力也无法与张作霖相提并论，便想做个顺水人情离开吉林，回到天津去做寓公。但是孟恩远有两个部下却不情愿就这样让出经营多年的地盘，一个是参谋长兼师长高士傧，一个是旅长高夙城，这两个年轻气盛的将领便怂恿孟恩远和张作霖开战。有了两位年轻干将的支持，原本去意已决的孟恩远改变了主意，无视北京的调令，抱着侥幸心理想要用这样的做法阻挡来势汹汹的张作霖。
孟恩远死赖着不走，黑龙江督军鲍贵卿便想出一个主意，他建议北京政府调孟恩远率高士傧、高夙城部入关，暂驻直鲁边境，以孟恩远为总司令负责剿匪。但孟恩远若要自吉林入关，便要经过奉天，张作霖自然不愿意，另外驻防直隶的曹锟也不愿意划出防区，这个计划便告泡汤。张作霖知道此时孟恩远身边最重要的人物首推高士傧，于是向北京政府检举高士傧“组织护法政府，与西南一致，请政府明令讨伐”。
此一时彼一时，孟恩远虽然有人拥戴，却没有了后台的支撑，张作霖没有耐心等着孟恩远变卦，决定诉诸武力。张作霖委任第二十七师师长孙烈臣为东三省南路总司令，第二十九师师长吴俊升为北路总司令，分南北两路夹攻吉林。孙烈臣在开原设司令部，其先头部队进抵怀德，与驻防双城的吉军仅隔30里。吴俊升部则由大贲向南推进，与防守农安的吉军相隔百余里。高士傧急忙部署防御，在农安自称讨贼军总司令。
眼看着大兵压境，而孟恩远却无处求援，自知绝不是奉军对手，于是到长春密电张作霖表示愿意交出吉林督军之权，只是希望能够保证他的生命财产安全，并电促鲍贵卿速抵吉林。张作霖很快回电，只要孟恩远能够交出督军的职务，即亲自派兵护送孟恩远安全回到天津。8月5日，黑龙江督军鲍贵卿抵达吉林市，孟恩远亲自将督军大印交给鲍氏。随后，吉林军人通电表示之前的讨张檄文乃是他人伪造，高士傧也致电向张作霖请罪，高夙城则便装绕道海参崴（即今俄罗斯符拉迪沃斯托克）乘船逃至天津。
孟恩远已经交出印信，高士傧也已经服软，张作霖也不欲非要赶尽杀绝。张作霖接到高士傧的请罪书之后，即复函称高士傧为“青年有为之士”，北京政府责成张作霖查办高士傧，张作霖也轻易了却这桩公案，“查高士傧咎有应得，尚能悔悟，应予免议，所部旅团长一律撤差”。孟恩远入关时经过奉天，张作霖设宴为之压惊。张作霖乃下令委任鲍贵卿为吉林督军，并调孙烈臣为黑龙江督军，加陆军上将衔，兼署黑龙江省省长，以张作相继任第二十七师师长。张作霖终于攫取了东三省的实际领导权，成为名副其实的“东北王”。