在长江北岸，自7月下旬至8月下旬，前后约1个月的时间里，中日双方曾在太湖、宿松、潜山附近地域反复争夺。黄梅失守后，守军曾多次组织反击，未能恢复，双方对峙。接着，北翼的守军采取纵深配备，分守霍山、六安及商城、潢川一线。日军第二军第六师团、第10师团和波田支队占领了霍山、六安后，虽与守军在几个方向上对峙，但未作深入攻击。9月初日军增加兵力继续进攻，武穴、广济相继失陷。日军又乘势在海、空军的协同下猛攻富池口、田家镇要塞。9月下旬（富池口24日、田家镇29日）该要塞失守。守军并没有如兰封会战那样临阵溃逃，而是在新春、兰溪、黄冈一带、其后又继续在阳新、辛潭铺一线逐次顽强抗击日军。到10月中旬，阳新、辛潭铺先后陷落。幸得在鄂赣边境作战的第九战区主力长期在南得、星德、瑞武线上阻击和侧击日军并子以极大伤亡，才有效遏止了日军强劲的进攻势头。
在豫鄂边区方向，自8月下旬起，日军第2军就已兵分两路进攻：南路以第13师团经霍山指向商城，复向武汉北面推进。此路日军在商城以东地域受到中国守军顽强阻击，进展缓慢。9月中旬，日军付出惨重代价攻占商城然后转向西南，企图越过大别山直扑武汉。中国守军凭险抵御，日军到10月中旬才越过大别山。
北路，第10师团接连攻陷六安、霍山。到9月2日，直逼大别山峡口的固始富金山。
富金山，位于与安徽省金寨县城接壤的河南省固始南部，史河南岸的陈淋子镇红花村，属大别山余脉。主峰海拔325.6米，南北长约四公里，东西宽约两公里，原名“附近山”，后因山上富含铜、磷、水晶石等矿物而得名“富金山”。途经此地的叶(家集)商(城)公路，东连六安、合肥，西通潢川、信阳，山势险峻，国军第71军宋希濂率部早已严阵以待，决心在此阻击日军。宋的指挥部就设在富金山上的千年古刹妙高寺。
日军做梦也没想到，在固始富金山，他们会遇到这样一支劲旅。
9月2日上午10点，24架日机飞临富金山，狂轰守军阵地。9月2日夜，日军第13师团强渡史河，进攻富金山。守军知道前来进攻的日军是13师团即荻洲师团，在南京大屠杀中奸淫虏掠所犯罪行最为严重那支部队后，更是恨得咬牙切齿，决心狠狠打击，以报血仇。
宋希濂指挥部队顽强阻击，战斗十分激烈。第71军第36师师长陈瑞河亲率预备队猛烈反击，在敌人面前没有后退半步。两天的激战，日军竟然未能打开富金山的大峡口，一怒之下荻洲又调来两个大队，会同第10师团忘想从左翼突破富金山阵地。富金山上炮声隆隆，昼夜不息。宋希濂对守军说的最多的一句话是：“狠狠地打！”
中国守军炮兵虽居高临下，却因缺少重炮，无法给予日军毁灭性打击。屡遭打击的日军获悉中国军队指挥部的具体位置后，连续派出飞机对妙高寺进行轰炸。原本规模宏大的妙高寺禅院随即被夷为平地，仅剩下一座山门。与此同时，从9月4日开始，日军飞机连续4天轰炸固始县城，然后又将大炮架在张街口民房屋脊上对准东门（寅宾门）楼轰炸，东门楼基本被炸毁，日军进入固始县城，烧杀淫掠，千年古城横遭劫难。
日军第2集团军为夺取富金山，9月7日令正向固始县城推进的第10师团濑谷支队（在此前的台儿庄会战中被中国军队痛击的那支）增援第13师团作战。此外日军第2集团军还调来第16师团支援第13师团。当日，日军第10师团攻占固始县城，日军故伎重演，以一个联队的兵力南下攻击富金山以西的武庙集，严重威胁富金山阵地侧后，被中国军队察觉。宋希濂立即将军预备队88师523团紧急调到日军南下必经之路的坳口塘设伏，对来犯之敌予以重创，歼灭日军400余人，迫其退回固始。在富金山的正面，日军后续部队第16师团已进至六安以西，第13师团解除了后顾之忧全力猛攻。到9日，第36师连还能开枪的轻伤员算上，仅剩千人。宋希濂亲自到阵地上，告诉陈瑞河：“36师要永远站着，绝不能趴下。狠狠地打，弟兄们才能死而无憾。”尽管敌第13师团在叶家集以西的阵地上全力攻击，可在中国守军的顽强抵抗下，也伤亡过半。
在国民革命军第2集团军的阵地上，兵团总司令孙连仲中将（台儿庄主战首将）手持望远镜，观察着烟尘弥漫的富金山阵地。久经战阵的孙连仲通过一个细节就感觉到了富金山火药味的浓烈。几天前，山顶上还立着两座不大的小庙和几十颗大树。而眼下，山顶上已是空荡荡的一片。他知道，一般的战斗是不会有这种结果的。
他拨通了71军军部的电话，对宋希濂说：“宋军长，撑得住吗?”
宋希濂想了想，说：“司令，仗打得很苦……我们至少还得守几天?”
“至少3天。至少3天商城方面防御才能稳定。宋老弟，你是条硬汉，守五六天已很不易。刚才白(崇禧)长官来电话，战区嘉奖陈师之固守奇功。望你们能再撑几日，待友军在你们身后站稳脚跟后你们再撤。”
“司令放心，希濂当全力而为。”
放下电话，孙连仲感慨地对老部下池峰城说道：“宋希濂是条汉子，比我厉害。”
从9日至10日开始，发动总攻的谷口部队不分昼夜地猛攻不止，36师浴血奋战，将日军的进攻尽数粉碎。
富金山战役的第9天，一身戎装的宋美龄来到富金山前线，冒着日军的炮火和轰炸，沿着战壕一路慰问、鼓励一线将士，极大地振奋了军心。
从11日凌晨起，日军第13师团倾全力猛攻。战至9时许，从富金山与石门口的战线结合部突入，36师在师长陈瑞河的指挥下，抱必死之心进行逆袭。官兵们奋勇拼杀，前赴后继，与日军白刃搏杀，战况极为惨烈。36师迭经多日血战，虽得到88师一个团的增援，但在此死伤甚重的时候不过是杯水车薪，难以击退人数、火力均占优势的日军如潮拥进。11日，富金山全线遭敌猛烈炮火轰击，战斗异常惨烈，守军伤亡极大。主阵地相继丢失，各部仍在顽强抵抗，虽欲夺回阵地，但已力不从心。血战至下午16时，36师除富金山主峰制高点外，其余阵地全部失守。
就在这样的紧急时刻，陈瑞河师长还是组织全师残部实施了最后一次强力反击，给予日军以极大地杀伤，但36师所剩兵员已不足千人，难以再战。在此情况下，宋希濂以61师从富金山右翼发起反击，抢占800高地至妙高寺一线，以掩护36师后撤。日军施放毒气，掩护步兵向富金山突击。守军阵地成为一片焦土。日军扑向西南，包抄第71军后路，守军得到命令，放弃富金山阵地。后来，日军继续向西进犯，陈淋子、祖师庙、武庙集、樟柏岭（即今郭陆滩樟柏岭村）、段集、方集横遭劫难，200多名百姓丧生，2000多间房屋被焚毁，数以百计的妇女被蹂躏。日军过后，惨状目不忍睹。
整整10天，第71军阻强敌于富金山下，毙伤日军第13师团逾万人，直接战死4000余人，尸体皆“运叶家集焚化，臭闻十余里”。（其中第26旅团长沼田德重少将重伤，其所属四个联队长亡二伤二，13师团平均每个步兵中队只剩下40人）。日军担任第一线进攻的荻州立兵13师团连续5次补充兵员，总伤亡过半，随军战地记者发回东京的消息惊呼：“此役由于受到敌主力部队宋希濂军的顽强抵抗，伤亡甚大，战况毫无进展”，“我军遇到强手，束手无策”。中国守军也伤亡不小，仅第36师就由参战前的1万多人，锐减到八九百人。整个部队被打残了，但第71军以极其坚韧顽强的防御迟滞了日军第2军的疯狂攻击，阻遏了其强劲势头，为国军赢得了调整部署的宝贵时间，彻底粉碎了日军越过大别山迂回武汉的战役企图。9月14日，蒋介石通电全国全军嘉奖：“……是则宋军陈师之壮绩，已获得超出之代价，尤其精神上足使敌确认我愈战愈强，抗战精神，历久弥增，令其气短……”号召全军学习36师的精神，‘各奋英勇’，杀敌报国。”宋希濂与陈瑞河双双获得华胄荣誉勋章。36师以从万余人锐减到800人的沉重代价写下了无尚的辉煌与荣光！
随后，中国军队又在商城南部山地潢川、沙窝、罗山、麻城和信阳等地顽强抵抗，共歼日军10000余人。期间，宋希濂率部在沙窝战役中再次重创日军，因此，国人也将富金山战役和沙窝战役相提并论，合称“金沙战役”。
日军北路严重受挫，但仍不甘于罢手，于9月下旬攻占罗山，迫近信阳，守军亦顽强反击，直到10月中旬方占领信阳，而此时，薛岳指挥的“万家岭大捷”早已结束，大武汉已完成战略转移，日军进攻作战已失去意义。