1941年9月底，日军为了配合第二次长沙会战，集合第36师团、第110师团、第35师团等5万余人进攻郑州以牵制中国军队。当时第12军的布置是第81师在后方新郑一带整训，20师驻郑州城北东南郊至新郑一带，22师（张测民）守河防。分为两线：第一线守黄河新道从郑州东北自京水，迤逦东南至尉氏圃田附近，分驻沿河各村庄（师部驻祭城乡金庆）；第二线驻贾鲁河之西，枣园、磨李、小孟庄、南李庄等村。
10月1日夜，日军一步兵混成旅，内附骑兵队及机械化联队约万余人，并配属空军数队，由开封方向进犯郑州，从琵琶陈强渡黄河。琵琶陈守军22师守备连士兵虽曾两次报告敌情，而营、连长以为是“奸民走贩私货”，（可见守军对由对岸而来的走私船只早已习以为常）没采取任何紧急措施，上段所讲的隐患变成了灾难。直到敌军云集登岸，数量众多，驻守官兵才大梦初醒开始仓促应战。日军以枪炮猛烈轰击，我少数驻防部队伤亡殆尽。未及两小时，守军溃退。此时营、团、师部均已闻枪炮声骤起，知敌大部队已过河，开始向枪声紧密处调集队伍狙击。而为时已晚。当时日军以主力来犯，而我以薄弱步兵正面防守阻挡，敌犹如以尖刀突薄纸，当然一突即破。我第一道防线在拂晓时就已被突破。第22师部队即沿第二线阵地阻止敌人西进。
孙桐萱得到消息后急令第20（周遵时）师与第22师竭尽全力阻止敌入扩张前进，同时把总部直属部队和预备队都派上一线。又以电话命令尚在休整的第81师师长贺粹之迅速由新郑沿新郑、郑州大道急来郑州以东地区，增援第22师及第20师。并将当时情况与处置，火速报告给第一战区长官部，同时要求另派部队接替尉氏以南防务，以便集中力量抗击登岸之敌。同时又将上述情况分别电告左右翼友军。
10月2日白天，第22师及第20师一面沿黄泛区集结兵力，一面竭力阻止敌人西犯。在敌人步、炮兵猛烈的火力下，我守军在每个据点的争夺中都能不顾在敌机枪与炮火下的伤亡，与敌短兵相接以致肉搏。一些未撤走的村民也持劈刀、斧头参加对敌搏斗，士气振奋。这样苦战一日，敌人无所进展。
当晚，日军已有6000多人渡过黄河，郑州城郊已有日军骑兵出现，孙的总指挥部紧急撤出郑州。3日夜，第81师赶到郑州附近，马上部署部队接防22师的部分阵地，主力沿贾鲁河沿岸前铺以阻止敌军前进。孙乘月夜至第81师师部，当面将敌情向贺师长讲清楚，说明对岸敌炮火甚烈，明日拂晓可能以主力向你师进攻，须严加防范，要求他们提高士气，艰苦作战，任何困难都要克服。81师官兵听到总司令到前线慰问，大为振奋，虽经过一日急行军仍不顾困乏，当夜奋力挖掘战壕备战。
10月4日拂晓，日军在猛烈炮火与飞机的掩护下，向我军阵地发起进攻。我部队经过调整，以猛烈的火力阻止敌军前进。但来犯之敌在步、炮、飞机协同下向装备处于劣势的第20师及22师不断猛烈进攻，致我军将士伤亡过半坚守困难，迫使我第20师向京水镇方向、第22师向郑庵附近转移阵地。
第81师接防后，在沿贾鲁新堤一线，利用有利地形阻止敌主力。81师某团第三营吴营长，奉命到河边大花庄桥头接防，毙敌逾百人。白刃相接，营长负伤，腹破肠拖，仍与连长夺回机枪一挺，毙敌二、三人，最后战死在桥下。后第三营大部壮烈牺牲，附近民众在激战中亦大力相助。
战斗中，孙桐萱亲临前线督战，最危险的时刻，孙的警卫营也拿上了火线。与日寇激战数日，终未能挡住敌人持续猛攻，敌军主力迫近郑州。而郑州以东地区，地形开阔平坦，对我军防守极为不利，反对敌军机械化与步、炮、飞机协同作战有利。我既无飞机又无有力炮火，完全处于被动挨打的状态。为了调整作战力量争取主动，孙一再请示第一战区长官，主张暂时放弃郑州，撤至郑州以西密县与荥阳以东之昆山山麓，这里地形荫蔽，天然沟渠纵横，对我军防守有利而不利敌军机械化的活动。我军重新调整部署，可与敌保持对峙的局面，以逸待劳，打击敌有生力量，后待机反攻。
孙的建议得到卫立煌长官的批准。5日下午，第3集团军放弃郑州，南撤到密县东曲梁镇。20师撤出郑州到西十八里河附近，面向郑州方向占领阵地；22两师撤至郑州南郊十八里河以东以南地区，形成护卫总司令部与敌人对峙的局面。
81师奉命转进到郑州西南黄岗寺。
危急中孙桐萱看出了蒋介石对第三集团军的不信任。因他发现在部队后撤时，汤恩伯部的第13军在他的81师的背后再次设防，似在阻止81师继续后撤；同时，汤命所部截留第3集团军的供给物资，扣押去洛阳的第3集团军人员。
孙桐萱为之心凉。
10月7日晚，卫立煌召开军事会议，共同研究如何消灭敌人、收复郑州。孙桐萱指出：当前河防既被突破，郑州及以东地形均系平原，不利我守势作战，不如郑州以西山麓易隐蔽，利于我守军与敌保持对峙，日夜以逸待劳，各师以主力坚守阵地以火力杀伤敌有生力量，夜间以敢死队游击敌之后方以断其补给。如此消灭来犯之敌，相机收复郑州。
“有人说：你的22师某连长出卖黄泛河口，敌人才轻而易举地渡过黄泛区的。” 这时候，汤恩伯不阴不阳地对孙说。
孙桐萱与卫的关系一向很好，豁出去了说：“副长官不能听信敌人的挑拨离间的宣传，所谓某连长，我敢说第12军中连长以上我是多半认识的，有的都能知其是某某地方的人。如果真有人出卖河防，只要说出姓名，除战死者外，我立刻把他抓来，以军法从事。”
卫立煌看孙已急眼，遂摆手示意，叫汤恩伯不要再说。
会后，孙带着一肚子气连夜返回曲梁镇总部，召集各师长及主要团长开会。慷慨激昂地说：大敌当前，唯一的出路是各师、各团提高士气，加强团结，大家齐心合力，把部队整顿好，爱护民众，军民结成一条心。只要积极抗日，消灭当面敌人，收复郑州。这样，我们即使部队牺牲光了，我孙本人牺牲了，也留得个抗日英雄，千古传名。希望各部队全体战士下定为国牺牲的决心，除此外别无出路……
此后20多天，第3集团军在坚守阵地杀伤日军有生力量同时，不断派部队袭击郑州日军部队。10月31日，敌军以主力进攻黄冈寺我守军81师。日军开始以飞机轰炸和炮击，掩护步兵数千人向我守军猛攻。但在我强大火力网前，敌屡边顿挫，直至黄昏才接近阵地前沿，约数百名敌人强攻进入黄冈寺寨内，师长贺粹之亲率手枪连赴前线督战，突入寨内敌军被我尽歼。在黄冈寺北门外击毙日寇大佐小林联队长及以下官兵百余名。
31日黄昏，当面敌火力渐弱，似有退却模样。10月31日至11月1日夜间，第3集团军全线发动反击，日军溃退，20师60团当夜收复郑州。经过一个月的鏖战，第3集团军上报毙伤日军6000余；击伤日军指挥官鲤登少将（中国军队宣称鲤登伤重不治而亡）。
而第3集团军总司令部通讯营总机排排长郭宗正回忆，11月4日清扫战场，经检查，我军伤亡营长董万选等3人，连长以下军官27人，士兵1200余人。而日军伤亡，根据战斗情况及便探汇报约在2000人左右，俘30余人。何应钦的《八年抗战之经过》指出，“是役敌伤亡约3000余。”第3集团军12军22师副师长兼政治部主任李勋甫回忆，毙伤日军6000余人。（日本史料中此战参战序列中鲤登少将只有鲤登行一一人，并未在此战战死，41年11月6日，晋升为陆军中将，第七师团师团长在北海道驻屯。45年12月日本战败后复员，1972年11月17日死在日本。）
此后部队大部到郑州以西休整，一部沿河监视日军。
1941年底1942年初，洛阳、郑州一线形势稍微稳定。卫立煌被撤去第一战区司令职务。原计划由孙连仲担任，但考虑到防线当面伪军开封省长刘郁芬是也西北军老人，因此改任命蒋鼎文为司令官。
1942年1月，第3集团军后调整训，部队移防到豫西的陕州。在1942年中，孙良诚和孙殿英、庞炳勋相继叛变投敌，再加上早就当汉奸的张岚峰，河南沦陷区的伪军大部都是原西北军的。
卫立煌调走，汤恩伯当权。随着第3集团军后调，孙的职务也发生了变化。首先汤取代了孙管辖招募处的行政业务，孙只负责人事一项。加上孙部不再担任河防守备任务，等于斩断了孙和第3集团军的重要经济和人员补充来源。
孙部调驻陕州后，面对上述不利的形势，准备秘密派人北渡黄河过到晋南，发展势力。同时指示部下和伪军孙良诚拉上关系，准备两手打算，一担抗日形势不利就可以当伪军做汉奸，但遭到一部分部下的反对。另一方面，为了控制杂牌部队，蒋介石向第3集团军派了很多干部，但被孙以种种借口予以撤职。此外孙桐萱部队里还有共产党的秘密组织，他保护过共产党员，任由地下党在部队存在。另外他给过同在豫皖边区的新四军5000块钱。
以上几个方面汇总到蒋介石处后，针对西北军大批将领投敌的现实，蒋提前下手，以“通敌有据”(指勾结日寇)的罪名，密令一战区司令长官蒋鼎文扣押了孙桐萱。
1943年1月18日，蒋鼎文在洛阳第一战区司令长官部以宴客为由将孙桐萱扣押。3、4天后由三四十名人乘专列武装押解到宝鸡警备司令部，在此关押18天后，由重庆派来一架飞机，由军统吴仲离带四名特务将孙押往重庆。先是关在重庆市珊瑚坝蒋介石卫队团内。大约半月后，在一天夜间，由一群便衣特务乘四、五辆小汽车又将孙桐萱押到瓷器口东南山坡下的一个孤院子里，由蒋介石卫队团的一名副团长带领20名战士，另有七、八名便衣特务日夜轮流看守。十余日后，孙被押往国民党军事委员会，蒋介石亲自对其进行了审讯。据说在孙被扣期间，蒋介石曾批过一个条子，决定枪毙孙，但国民党军事委员会讨论时没有通过，一是认为证据不足，二是怕影响原西北军其他将领。
被审讯后，孙桐萱仍被押回山坡下那个独院里监禁。一直呆了八个多月，后来有所松动，可以在特务跟随的情况下到附近山坡上散步。一次，军政部长何应钦动员孙在歌乐山买所房子，在重庆长期居住下去。孙说：”我没有钱。”最后，何应钦提出让孙将其父孙锡荣迁来重庆，孙答应了。孙锡荣来到重庆，在名义上对孙宣布释放，但被告知：不得出重庆，不得向外写信和任何人联系、并在暗中有特务监视。
蒋介石由于并没有抓住孙投敌的真凭实据，最后提出给孙调动工作。不久，国民党军事委员会派人给孙送来一纸中将军事参议的委任状。
孙桐萱被扣押之后，第3集团军被撤，其基本部队第12军被汤恩伯收编，将营以上军官大部分进行了撤换，由贺粹之担任军长，只有第22和81两师。抗战后，12军的2个师被缩编为整编81旅，并入刘汝明的第四绥靖区整编68师，后来又恢复为68军81师。在刘汝明撤往福建时，第81师在师长葛开祥率领下起义，副军长王振声和参谋长杜允中也随同起义。
1945年日本投降后，孙桐萱曾向蒋介石写书面报告，要求退出军界。1946年程潜任军事委员会参谋总长，孙在第一战区时曾跟随过程潜，便向他提出回北平等待办理退役手续的要求，得到批准。1946年6月16日孙桐萱回到北平。