1938年6月初开始，日军由合肥南下的部队在其海军配合下攻占安庆、桐城，中国守军被迫退据潜山、太湖，暂时形成对峙。但自6月下旬起，日军海、陆军相互配合，以蚕食的方法逐步攻占马当、彭泽、湖口等沿江各要地，到7月20日迫近九江，取得沿江西犯的有利形势。
在江南沿江方向，日军于1938年7月下旬利用已控制鄱阳湖的有利形势，在海、陆军配合及空军支援下进占姑塘，作为桥头堡，继而增加兵力，会同沿江进攻的另一部兵力合击九江，战至7月26日，日军占据九江。之后马不停蹄，第106、27、101师团计划分三路由德安、南昌袭击长沙。为掩护此南线三路日军的侧翼安全，日军第9师团与波田支队、分向南浔铁路和瑞（昌）武（宁）公路前进。守备在瑞昌附近的就是已经归张发奎第2兵团指挥的第3集团军孙桐萱12军。这时部队因为几个月来从山东到河南再到江南，官兵水土不服，已经减员3500多人。但军令如山，部队顾不上休整，在瑞昌以东的望夫山、平顶山一线高地修筑工事严阵以待。8月8日，日军台湾旅团（波田支队）以一部于瑞昌东北之港口登陆，被我军击退。至10日又有敌400余人向该地进攻，占领望夫山、平顶山。孙桐萱命令展书堂（81师）和时同然（22师）率部队反攻，又夺回望夫山、平顶山，把敌人逼入港口。敌波田支队再举增援，并以舰炮掩护攻击，又将两山攻占。15日，敌另一部利用舰炮掩护，在徐家湾江岸登陆。这样经两周苦战，我军仍坚持在原阵线。8月22日，日第九师团大举进攻，在瑞昌东北朱庄施放毒气，第三集团军孙桐萱部两个营的一千名官兵死难，只有3人幸免。24日攻陷瑞昌城区，孙部力战不支退守磨山。与此同时，薛岳派重兵于南浔铁路沿线阻击106师团，胶着月余，日军无法靠近德安。
从瑞昌城到磨山仅七、八公里的路程，防守磨山的是关麟征部第52军第25师（师长张耀明）。
战斗打响了。进攻磨山阵地的是日军第9师团第18旅团（第19联队、第36联队）。这一战不要紧，一开始就与日寇形成了拉锯战，日军的一个大队被全歼。日军不得不一次次增兵再攻，均被阻遏。战役一直持续了25昼夜，磨山6次失而复得，中国的军旗始终飘扬在磨山山头上。日军死伤达3000多人。当时，关麟征患恶性疟疾，病倒战场，每天躺在担架上，被抬着到前线指挥作战，鼓舞士气。在他的督促影响下，将士轻伤不愿下火线，誓与阵地共存亡。事后日军哀叹，磨山一战是其在向中国战时首都武汉进犯的道路上遭遇的最重的挫折之一。
正规军在山上英勇抗击，老百姓在后方踊跃支援。战场附近的村子里，群众将自家的粮食、生猪、下蛋的鸡鸭，残老耕牛，能吃的东西，尽量送到山上，连山上饮用的水都不需士兵下来挑。抬下来的伤兵，安排在山后的村子里抢救治疗，妇女老人主动地参加护理，照顾得比亲人还仔细。
为了对付中国军队，日军在当地抓了不少壮丁去当挑夫，为他们搬运弹药补给。沿途都有士兵押运。但是，只要瞅着机会，挑夫们便甩掉监视，把担子挑到中国军队的阵地，然后回去再挑。如果双方正在打仗，则把东西先藏在草丛中，事后再送上去。守卫山头的中国军队每天都会收到这样的“礼物”。安家湾有对父子，互相配合掩护，每天夜晚都能“偷”到两担物资送往山上。后来，不幸被日军发觉，父亲惨遭杀害，儿子则干脆逃到山上，当兵拿起了枪，直到牺牲在敌人的炮火之下。为了支援前方将士，村民们或是夫妻、或是父子、或是爷孙联手，帮助前方将士运送物资。
因为前面战事激烈，守卫磨山的21师的一个团疏忽了后背。日寇收买了一个汉奸朱万金，于深夜从山后的一条小沟中，摸爬到山上。山上树丛茂密，放哨的士兵听见了动静，却看不清远处，打了一阵乱枪，未有反应，便以为没事。日军在山头附近埋伏起来，等到次日，中国兵吃早饭，立即蜂拥而上，双方展开激烈的肉搏战。在前后夹击之下，整团官兵为国捐躯，9月10日磨山和与它临近的大峰山相继失守。
9月下旬，日军第9师团攻至南山一带，又遭到曾经大战台儿庄的汤恩伯集团军（第31集团军）的拼死阻击。汤部于南山的磬岩啄、毡帽脑、斗笠顶、道士岩、大脑山一线布防，在多个山头与日军展开殊死较量。日军由磬岩啄下山，在飞机、大炮掩护下，向防守在毡帽脑的国军某团阵地猛攻，该团凭借战壕和掩体，居高临下向日军勇猛还击，轻重机枪、步枪齐发，手榴弹扔向敌群，将日军压在半山腰，打死打伤日军300余人。日军飞机频繁轰炸，大炮轰击，施放毒气，守军伤亡惨重，向西退守龙宕山扇子地阵地。随后，日军又组织一个团的兵力，以飞机大炮为前奏进攻，国军在每一个山头反复搏杀，防御、攻击、侧击、最后展开肉搏，继磨山战斗后，再次重创日军数千余人，打得骄横的日军垂头丧气，一次次猛攻均被击退，一度丧失了进攻能力。中国军队也有重大伤亡，龙宕山阵地争夺战，敌人用了大量的毒瓦斯（兼有催泪性和窒息性）。某团的官兵迎着敌人的炮火、毒气、炸弹进行壮烈无比的战斗。在第一线指挥作战的一名姓杨的团长，中毒后仍力战不退，两小时后，他又受了伤。激战到了晚上，整整一个团的官兵壮烈殉国，阵地敌我各占其半。翌日晨，敌军增加新的兵力，再度猛攻。我军也派了一个营的兵力上去，空前激烈的争夺战，又持续了整整一天，敌军的伤亡，比我多两倍以上。此后，第13军自东向西一夜换一个山头，在南山各山头激战了七天七夜，双方伤亡难计其数，日军焚尸处军衣上的铜扣子要用谷箩装。13军、92军和85军一部均伤亡过大，给养不济，从青岭和戴家洼撤退到湖北阳新县。战后，南山一带自磬岩啄至道士岩，满山满岭都是骸骨。因阵亡官兵太多兼战事危急，战斗结束时清理战场就地挖一个大坑，将近300名阵亡官兵就地掩埋。
后汤恩伯集团军第13军85军89师缩编为4个营，195师则缩编为一个团。
在此之前的8月29日，孙桐萱集团军司令部所在地重镇阳新失守，孙部无力再战，被迫后撤休整。