花园口决堤之后，中国第1战区的部队即乘着黄水泛滥的势头，对被黄水围困在开封、中牟、尉氏地区的日军展开了进攻。连日军自己也不得不承认：“在6月中旬，战面扩大到自开封、正阳关、安庆一线以东至黄海的广大地域。结果在华北方面军占领的地区造成治安混乱。”
6月12日，突入郑州以南新郑，附有4门15生口径榴弹炮，并一度炸断平汉线的日军第14师团骑兵团之一挺进队，被黄水遮断后路，全部被消灭。计俘获400余骑、85毫米口径榴弹炮4门和步骑兵若干。
6月14日，孙桐萱的第12军第20师奉命协同第24师攻击尉氏以西的日军第16师团主力。两个师各派一个旅于16日向日军发起进攻。经数日激战，日军大部退入城内。此时城东已经形成深广的泛滥区，城内日军陷于绝境。27日拂晓，第20、24师在得到炮兵、骑兵部队的增援和当地抗敌自卫团的支持后，展开对尉氏县城日军的的攻击。经过数小时的激战，日军弃城东逃。日军逃跑时，破坏了坦克、汽车、大炮和轴重，并遗弃了部分军马、枪支弹药。当日12时左右，尉氏被中国军队收复。
6月18日，刘和鼎第39军之34师攻击中牟之敌。19日晚，该师201团从中牟县城西，拔涉一里左右泛槛地带进至中牟城下，由一个排的士兵登上城墙与日军战斗。天明时撤出战斗。22日凌晨，该团再次袭击中牟日军，并攻入城内。日军利用已得到的救援材料渡水撤退，遗弃了大量的重兵器和辎重。日军在逃跑时，在混乱中有的被击毙，有的被水淹死。中牟县城遂于23日夜被收复。
黄河决堤对于日军而言完全是出乎意料的。突入豫东地区的日军，有的来不及逃脱而被洪水淹没，有的因伤病所累而被丢弃，还有一部分为中国军队所歼灭。其他的只好“停止追击，集结于泛滥地区以东。”
大批大批地日军像湿毛狗一样的逃跑。一些伤兵因无法及时顺利地逃脱，被同伴就地射杀。6月10日、11日，日军第14师团尚集中于中牟附近地区，没有向东退却，被困于中牟城内，他们只好以麻袋装土堵塞城门，等待救援。6月13日，日军第2军从第5、第10、第114师团、军兵站部抽出工兵各约一个中队及架桥材料一个中队，16日又从第1军调来独立工兵第2联队主力及一个渡河材料中队，协同前往救援被困中牟的第14师团一部，直到23日，这部被围日军才撤退到开封。
16日，黄水泛滥至尉氏，经县城东侧向东南而去。集结在尉氏城西的日军第16师团被黄水阻隔。第2军遂调用其他师团的两个工兵中队、两个架桥材料中队、折叠船40联队、独立工兵11联队前去救援，然后合力向朱仙镇无水地带撤退。接着又把司令部撤到商丘。次日，华北方面军又命令临时航空兵团全力以赴，用运输机、轻重轰炸机，在16-24日之间，给14、16师团空投粮株、卫生材料等61.5吨。。直到25日夜，日军第16师团主力才渡过尉氏东面的大泛滥地带，在7月7日左右，脱离浸水地带集结。
日军原计划由平汉线、江淮两路齐进，将陇海、平汉、津浦与淮南四条铁路联系在一起，把东、西、北三个战场连接成一片，可以纵横自如调动兵力，齐头并进，攻取武汉，逼迫中国政府投降。但是，由于黄河决堤、大水泛滥，在河南省，日军既没有拿下郑州，也没能控制平汉线和打通陇海线，会攻武汉的计划被打乱。在安徽省，由于黄河改道造成了淮河泛滥，津浦铁路和蚌埠铁路大桥被冲垮，日军不但无法顺利由津浦路南下蚌埠集中，然后沿淮河西进，而且从华中运转兵力的障碍也随之增多，物资运输越来越困难。
面对新的情况，日军权衡利弊，不得不改变其进攻战略：由原定以华中派遣军沿淮河而上，华北方面军从郑州沿平汉线南下的作战计划，而改为由华中派遣军兵分二路，一部走海路，入长江，到安庆登陆北上;一部由豫东步行到蚌埠过淮河南下。两部的炮兵、辎重兵，则由青岛登船，过大海南下，再经长江到安庆上岸，开向合肥与其主力会合，集中力量西攻武汉。两部日军经过月余的行军，不但削弱了战斗力，而且推迟了进攻武汉的时间。
这样一来，从郑州斜贯东南，穿越豫东大平原的新黄河就成为军事分界线，把日军阻隔在泛区的东面，中国军队沿西岸据守，分庭抗礼，一直延续到1944年日本发动打通大陆交通线战役方告结束。
那么，原属山东的第三集团军孙桐萱部第12军第20师怎么会出现在郑州一线呢？这还得从宋桐萱的升迁说起。