民初的中国，有一南一北两座城市最为紧要，一是北京，一是上海，前者是政治中心，后者则是金融中心。民初军阀派系纷立，说谁的势力最大，就要先看看他是否占据着这两座城市。皖系当国的时候，段祺瑞和徐树铮把持北京政权，卢永祥拥兵于浙江、上海；等到直系开始当家作主，吴佩孚却抛开北京、上海，选择在洛阳“虎踞中原”，后来曹锟把持北京政权，齐燮元自卢永祥手里夺得上海，第二次直奉战争的序幕徐徐拉开，刚刚处于鼎盛期的直系面临盛极而衰的窘境。军阀打仗不外乎为了权和钱，把北京让给了冯玉祥，张作霖自然不能任由失势的直系还占据着上海。
就在张宗昌进入南京的同时，奉军第八师亦在蔡平本的率领下自芦台出发，越过长江后抵达南京下关。在下关守卫的苏军官兵毫无斗志，向蔡平本所部投降，蔡平本随即命令先头部队向常州进发。张宗昌在攻取南京之后就率部进攻上海，其先头部队抵达苏州。于是，张宗昌便率部与直军将领孙传芳对峙于上海以西地区，此时皖系将领吴光新代表段祺瑞主持议和，张宗昌遂与孙传芳在上海签订和约，各自收兵。张宗昌顺利占领上海，此时第八师先头部队业已进抵苏州，蔡平本随即命令所部在常州驻扎下来，以备随时策应上海。
在占据上海之后，张宗昌积极布防，他把所部的主力放在龙华，并任命手下将领毕庶担任海军司令，控制长江下游和东海海面，另外派亲信王琦掌管财政。在一切安排妥当之后，“混世魔王”终归还是露出了他的本性，他在上海英租界三马路会中旅馆住下，在荷枪实弹的警卫的保护下，在上海滩过起花天酒地的生活。而上海滩的帮会头目此时纷纷极力拉拢张宗昌，青帮长老黄金荣、杜月笙更是亲自为张宗昌接风洗尘。
正当张宗昌在上海玩得不亦乐乎之际，段祺瑞任命卢永祥为江苏督军，这样一来张宗昌将江苏据为己有的计划便落空，他气愤之下便率部退至徐州。张宗昌是个实实在在的大老粗，他在上海的时候，张作霖本来就非常担心，一来怕他无法应对外交纠纷，二来又怕他坐大。趁着张宗昌退出北京的契机，张作霖便向段祺瑞要求将皖系将领郑士琦掌握的山东让给张宗昌，段祺瑞因为要依靠张作霖对抗冯玉祥，加之已经据有江苏，便将山东督军的职务交给了张宗昌。
但彼时的地方军阀都是拥兵自重，对上面的命令也是阳奉阴违，郑士琦接受了段祺瑞的任命，却离官不离任。张宗昌等了三个月，看郑士琦没有动静，便派所部许琨率两个旅开入山东，把郑士琦的部队打得节节败退。另一方面，张宗昌又委派参谋长王翰鸣到济南拜会郑士琦，来了个软硬兼施，到此时郑士琦知道不走不行了，才离开了济南。4月，张宗昌自徐州率领大队人马进入山东，正式出任山东督军，随后他又以武力驱逐了山东省长龚博衡，自兼省主席，将山东的军政大权全部掌握在手里。
抢地盘是北洋军阀内部一个不成文的传统，打下江山以后就要分江山。在入关以后，奉系将领首先盯着的就是直隶这块大肥肉，第二次直奉战争开始之前，张作霖是把直隶允诺给郭松龄的，但李景林是直隶人，他自然想要把京畿重地占为己有，他的主攻方向是热河，在占领之后张作霖并没有命令他入关。但李景林一心想要直隶，于是在占领凌源以后，就南下猛扑喜峰口，随后攻克天津，在争夺直隶的过程中率先占据了有利的形势。李景林的部队号称“疾行军”，盖以速度见长，李景林已经占据天津，张作霖自然也不能将他再赶走，只好顺水推舟地任命李景林暂行署理直隶督军，并任命阚朝玺署理热河都统。
在把李景林安排到直隶、张宗昌安排到山东以后，张作霖原本准备让姜登选担任江苏督军，以郭松龄接手安徽的事务。当时在南下的宣抚军中，有自津榆驻军调拨来的一个旅，是郭松龄的第二旅，郭松龄便委派该旅旅长刘伟率部坐镇蚌埠，这也是为了郭氏他日南下接管安徽做准备。事情本已安排妥当，但杨宇霆忽然自荐要去江苏，他一直都是以智囊的身份出现在张作霖身边，如今打下了天下，他也要占个地盘当两天土皇帝。在杨宇霆、姜登选和郭松龄之间，张作霖最信赖杨宇霆，其次为姜登选，郭松龄最末，所以便委派杨宇霆到江苏去担任督军。
这件事后来被认为是导致郭松龄倒戈的重要原因之一，其实民初的军阀倒戈，大抵不外乎两个原因：利益和理念。一个是私欲，一个是公理，因为倒戈是一件大事，弄不好就会背上“不忠不义”的名声，所以只是以单方面的原因来给一个人盖棺定论，难免都有些武断。郭松龄早年加入过同盟会，本来就对革命更有好感，加上张作霖一而再再而三地偏袒杨宇霆，老郭自然就被推到了兵变的边缘。尤其是入关以后，张作霖似乎更信赖喝过洋墨水的杨宇霆，但事实又证明，杨宇霆这个人只能当个随军的师爷，去做一方诸侯，真没有那个驾驭力，这也是最后他会命丧老虎厅的根本原因。
说到杨宇霆这个人，其实和皖系的徐树铮非常类似。两个人都是所在军阀派系中的狗头军师角色，也都富有谋略，遇事头脑非常清晰，也都曾一度将各自的军阀派系从低谷中挽救起来，但两个人也都有些恃才傲物、盛气凌人。但两个人相比，徐树铮要胜出一筹，小徐既有幕僚之才，也有将兵之能，戎戍西北的时候被称为“西北王”，与“东北王”张作霖一时伯仲，西北边防军官兵唯“小扇子”马首是瞻。而杨宇霆在这方面就差远了，就在杨宇霆去江苏之前，姜登选曾对张作霖说，“江南的情形是很复杂的，邻葛手腕不够灵活，而气焰太高，应付不了江南的局面”。
姜登选的话其实说得非常中肯，奉系军阀与其他派系的军阀不同，是张作霖一家独大，其他的将领对他唯命是从，很少出现地方将领违抗命令的事情。杨宇霆在东北时，就经常招致其他奉系将领不满，但是因为有张作霖的信赖和支持，其他人也只是私下牢骚两句，真跟杨宇霆闹掰了他们也不敢。可是皖系军阀和直系军阀就不同，地方将领拥兵自重，早就习惯了对中央视若无睹。
而恃才傲物的杨宇霆，并不相信姜登选的话，所以越有人觉得他南下不妥，他便越是做出一副强人的姿态。杨宇霆就任江苏督军时，不带一兵一卒，“以示勇敢沉毅”，待抵达江苏边境光明车站时，已经倒向奉系的直军将领江苏军务帮办陈调元、第十师师长郑俊彦亲自前往迎接。据陈调元后来回忆，杨宇霆下车之后，对陈调元、郑俊彦二人非常冷淡，“杨宇霆对我们毫不寒暄，却盛气凌人地对我们说，江苏弄得太糟，军不像军，政不像政，全不如奉天。他本人不想来，雨亭硬让他来”。
杨宇霆就任江苏督军之后，便重新委任各师长，直军将领陈调元、白宝山、马玉仁、郑俊彦等均来拜谢。但杨宇霆居高临下，对几位师长的态度极为傲慢，平素也惯以高高在上的口吻训斥这些地方将领。至于杨宇霆为什么会采取这样的方式管理江苏，历史学家金毓黼认为是杨宇霆知道“江南士夫素轻视辽人”，所以他才会选择“峻崖岸以临之”，以为“乘奉军方张之势，可安坐鞭笞江南也”。
不管怎么说，杨宇霆都是数犯大忌，不过，他更昏头的招数还在后面。就在姜登选、杨宇霆南下督苏、皖的时候，奉军第二十师师长邢士廉率部南下负责上海防务。邢士廉也是奉系军阀中的士官派，他字隅三，生于奉天郊区的木匠屯，早年入日本陆军士官学校学习，毕业后在黑龙江军官养成所任教练官，后在孙烈臣的督军署任中校参谋科长，此后又升任军警督察处督察长、中东铁路警备司令部谘议、参谋长、第十九混成旅参谋长、第二团团长、哈尔滨长春司令部参谋长、长春绥芬河铁路警备副司令等职。第一次直奉战争前运送物资到南方支援卢永祥和孙中山，从而得到张作霖的信任，以第二十四旅旅长身份驻防广宁。
邢士廉抵达上海之后，就爆发了五卅惨案。6月13日，奉军以“沪案”（即五卅惨案）发生、外人干涉为由，派兵进入上海市区，并任命邢士廉为上海戒严司令。除邢士廉部，姜登选部亦开入上海，丁喜春部则入驻南京，另外，奉军又抽调两个旅开赴上海。奉军进驻上海以后，即与帝国主义强行封闭上海工商学联合会等组织，残酷镇压上海的工人运动和学生运动。
大量奉军涌入上海，最惶恐的要数浙江督军孙传芳，江苏和上海邻近浙江，奉军源源不断地开来，并传出“图苏乃图浙之先声”的消息，孙传芳为了稳住江苏督军杨宇霆，特地派心腹之人到江苏提出和杨宇霆结盟。对杨宇霆来说，他初抵江苏，军心未稳，孙传芳则是久居苏浙，有道是“强龙不压地头蛇”，孙传芳要稳住杨宇霆，杨宇霆更应该稳住孙传芳，结盟应当是眼下互利的一件事。但眼高于顶的杨宇霆，根本没有把孙传芳看在眼里，断然拒绝了孙传芳的提议。这样一来，孙传芳陷于奉军团团包围之下，就逼得他不得不铤而走险率先发难，杨宇霆可以说是给自己埋下了祸根。
孙传芳的计划是“浙孙攻其头、豫岳拦其腰、西北攻其尾”，派人去联络与张作霖交恶的冯玉祥和岳维峻。孙传芳密派幕僚杨文恺到张家口与冯玉祥会晤，冯玉祥早已经与张作霖面和心不和，遂答应了孙传芳的邀请，表示只要孙传芳对奉军发动进攻，他就做出预备作战的姿态牵制热河和京畿的奉军。随后，杨文恺又和冯玉祥的代表段其澍前往开封，会晤河南督军岳维峻，岳维峻也答应会以进攻山东策应孙氏。
杨宇霆在江苏对地方将领颐指气使，早就惹得他们不满，陈调元、郑俊彦早已经在私下密谋驱逐杨宇霆，并与孙传芳秘密取得联络。1925年10月7日，孙传芳邀请安徽、江西、江苏、福建和浙江五省的代表到杭州开会，商议共同讨奉的计划。五省代表公推孙传芳为五省联军总司令，周荫人为副司令，决定“拥段反奉”。会议的主旨“拥段反奉”实在是耐人寻味，所谓“拥段”，就是支持段祺瑞，而“反奉”亦和讨奉不同，此中意思乃是说反对而非讨伐，主要是针对杨宇霆。五省代表最终提出这样一个主旨，即在驱逐姜登选、杨宇霆的同时，不忘给自己都留一条后路。
会议结束以后，孙传芳就封锁了所有消息，密令各部向苏浙边境的太湖集结。按理说孙传芳的部队有异动，周围的奉军不可能一点儿风声都听不到，但狡猾的孙传芳对外宣称是准备在双十节这天“太湖秋操”，就是为了庆祝节日，让部队搞点儿表演性质的军事游行之类。驻扎在上海的邢士廉也早就得到孙传芳那里有异动，但是他并没有在意，有杨宇霆、姜登选列强环伺，孙传芳真的能“大闹天宫”吗？
奉军麻痹大意，给了孙传芳天赐良机。他以浙闽苏赣皖联军总司令的名义，将所部编为五路大军，这五路大军由五个师组成，听候孙传芳统一部署、统一行动。10月10日，孙传芳命令全军出动，由太湖出击，分兵进攻上海和南京。这时候如梦初醒的邢士廉，急忙指挥部队进行迎击，但邢士廉当时只有一个旅，哪里挡得住孙传芳的重兵？杨宇霆急忙命令邢士廉率部撤出上海，以免遭全歼。
孙传芳占据上海，使得奉军将领姜登选和杨宇霆顿时慌了手脚。姜登选急忙致电孙传芳，晓以同学之谊，“今以苏浙近事而论，苏督杨君，决不犯浙，弟所深知，亦曾奉函敬告执事，彼此皆为同学，并无相煎太急之情，而必大逞干戈，以争胜负”。杨宇霆随即也致电孙传芳，表示尊重和平，“人民纵有可欺，天道岂能曲宥，无端启衅，大动兵戈，糜烂地方，百思不解。现在宇霆仍惟严饬所部，不准轻开战祸，重扰闾阎，毋我负人，宁人负我，是非所在，听之公评”。
而此时的孙传芳部于19日抵达镇江，进逼南京，20日，迅速进抵南京下关。兵临城下，杨宇霆顿时慌了手脚，再没有之前的嚣张气焰，在督军署召开了苏军将领的军事会议，请陈调元、白宝山、马玉仁等悉数列席。但这些师长早已经私下与孙传芳有了联络，准备携手孙传芳驱逐杨宇霆，杨宇霆请他们商议如何退敌，他们却一言不发，使得这场军事会议无果而终。其实但凡平素嚣张惯了的人，到紧急时刻若是换上一副求人的尊荣，反而更易让人瞧不起，杨宇霆此时求助于陈调元等，反而更为陈等所恶，只觉杨宇霆如同一个跳梁小丑。由此可知，在战场上，气势和气节同等重要。
眼见苏军将领早已离心离德，杨宇霆只好和他的参谋长臧式毅商量，臧式毅认为此时南京已经难保，不如先将守城的奉军丁喜春部撤离南京，保存实力。杨宇霆急忙密令丁喜春部向城外集结，丁喜春部刚有反应，即被陈调元知道，于是他以江苏帮办的名义邀请丁喜春过府一叙。待丁喜春和所部其他高级军官到陈调元府上，陈调元已经密令所部将丁喜春师包围，从而不费一枪一弹将丁喜春部俘虏，而丁喜春等人亦被软禁。
丁喜春部被俘的消息传来，杨宇霆便不敢在南京逗留，秘密潜出南京，经江北浦口，乘火车北上，同时通知姜登选尽快北撤。姜登选和杨宇霆这两个人，在奉军中素以骁将著称，但此时面对孙传芳的来势都只能灰溜溜后退。由东北到安徽上任的旅长刘翼飞，刚刚率部抵达上海，就遇到孙传芳来袭，于是在丹阳打了几个小时，力战不支撤退。部队被孙传芳部打散以后，刘翼飞化装成僧人辗转回到奉天，张作霖见到刘翼飞以后，不仅没有责骂，反而予以表扬，“在江南只有你跟孙传芳打了八个钟头的仗，别人他爹妈少给他装个胆，一枪没放，全投降了”，由此可知张作霖对杨宇霆、姜登选极为不满。
姜登选、杨宇霆几乎眨眼之间就丢掉了奉系在东南一带的所有地盘，而孙传芳则凭借此战占据长江下游的五省，成为北洋军阀后期最重要的军事力量之一。21日，孙传芳凯旋进入南京，风头一时无两。张作霖自然不想辛苦夺下的地盘这么轻易就丢了，但军师杨宇霆和五虎将一把手姜登选都吃了败仗，张作霖只好找来郭松龄和张宗昌，让他们南下收复失地，张宗昌应声南下，郭松龄的心里却早打起了别的主意。