宋廷召回柳元景大军，是因为王玄谟败还，柳元景军不宜独自深入，所以叫他们东归。柳元景不便违命，只好令薛安都断后，退回襄阳。可是这一退，魏军却趁机全力南下，趁势蹂躏尉武，进逼寿阳。南平王刘铄登城固守寿阳。魏主拓跋焘将豫州军事全部交托给永昌王拓跋仁，然后率精骑赶赴徐州，直抵萧城。
萧城距彭城只有十多里。彭城内兵多粮少，江夏王刘义恭担心固守不住，想弃城南归。沈庆之说历城粮多，让二王及王妃、子女直趋历城，由护军萧思话留守彭城。长史何勋则表示反对，他建议二王东奔郁州，走海路回建康。沛郡太守张畅见沈庆之、何勋二人争执不已，便对刘义恭说：“历城、郁州两地都去不得，而且也不容易过去。现在城中缺少粮食，百姓都想离开，只因全城戒严，城门严闭，他们才待在这儿。如果主帅一走，民众一定溃散，到那时，胡虏从后面追来，难道还能平安抵达历城、郁州吗？现在粮食虽然少，但总还可以支持一个多月。哪有舍安就危，自寻死路的道理？如果他们的建议行得通，下官愿先溅颈血，以洗马蹄。”话还没说完，武陵王刘骏也进来说：“叔父调度全军，要去要留，不是我所敢干预的。只是我本是这城的守吏，如果今天将责任一推，跟着您出城奔逃，将来我有什么面目回朝廷？城存与存，城亡与亡，我愿意依张太守所言，死守此城！”刘义恭于是不再提出城之事。
魏主拓跋焘到彭城后，在戏马台上叠毡为屋。瞭望城中，见守兵行列整齐，器械精利，魏主倒也不敢急攻。魏尚书李孝伯来到南门，代魏主赠给刘义恭一袭貂裘，送给刘骏数头橐驼、骡马，并对刘骏说：“我主嘱咐我向安北将军致意，想请将军暂时出城相见。我主不过到此巡阅，并不想攻城，将军不用劳苦将士如此严守！”武陵王刘骏曾受封为安北将军，因此魏尚书称他为安北将军。刘骏怕魏主不怀好意，便令张畅出城答话。张畅对李孝伯说：“安北将军也很想拜见魏主，但为人臣子，未经君王允许不得与别国结交，守城是城主的职责所在，并非针对魏王，请不要多疑！”李孝伯随即回去禀报魏主。
魏主想喝酒，吃橘子、甘蔗，并借用赌博用品，刘骏一一照给。魏主随即派人送去毛毡及豆豉、盐，并要借用乐器。刘义恭便让张畅出城答复。张畅刚出城，城中守将见北魏尚书李孝伯率数骑人马前来，忙拽起吊桥，关上城门。李孝伯走上前来，张畅对他说：“我和二王奉命镇守此城，并没有带乐器，还请见谅！”李孝伯说：“这也没什么关系。倒是将军一出城，城内就立即闭门绝桥，我有些不明白。”张畅不等他说完，便接口说：“那是因为二位王爷顾及到魏主刚来这儿，营垒还没有扎驻好，将士也十分劳累，担心城内的十万精甲会挟怒出城，冒犯魏主，所以下令闭门阻止。等到魏主的将士们士气恢复，双方再各下战书，指定战场，一决胜负。”李孝伯正要回答，忽然又有一人奉魏主之命赶来，来人对张畅说：“向太尉和安北将军致意，我主想问大人为什么不派人来我军大营瞧瞧？就算不能尽兴畅谈，也可以知晓我的年纪样貌，了解我的为人。如果身边的部将不能随易调遣，也可以派身边的侍僮来呀！”张畅从容地回答说：“魏主的样貌才力，耳闻已久。李尚书亲自前来，彼此已能尽兴畅谈，不用再派使者了。”李孝伯接口道：“王玄谟是个庸才，南国怎么会误用他，以致战败？我军入境七百里，魏主遗憾连亲自动手的机会都没有。我想这偌大的彭城，也未必能守得住！”张畅立即反驳道：“王玄谟是南土的一个小部将，我国不过用他来做前驱。只因魏主的大军还没来，我家将军便让王玄谟乘夜还军，共商大计，那些将士们不晓得实情，所以大军才稍稍有些散乱。至于魏军入境七百里，无人相拒，这是因为我太尉神机妙算，自有镇军之策。至于什么计策，军事机密，恕不便奉告。”李孝伯于是又换了一套说辞：“魏主原本无意围城，像这样长驱直入的话，说不定过几天就能率军直趋瓜步2。如果一路顺手，哪还用得着攻打彭城？即便出师不捷，这城也不是我主想要的。我军就当南饮江水，聊以解渴了！”张畅微笑道：“去留悉听尊便，不过北方的马饮南方的江水，恐怕会触犯天忌；如果魏军的马真能喝下江水，那就没有天理了！”这话一说，顿时令李孝伯大吃一惊。这是为什么呢？原来，之前有一首童谣说：“虏马饮江水，佛狸死卯年。”魏主出征的这年，正是辛卯年。李孝伯忙匆匆与张畅告别说：“大人真是一个让人敬佩的贤能之人，我自叹不如。请多加保重！”张畅接口说：“李尚书也多加保重。他日平定中原，尚书本是汉人，回到我朝，我们还会再相聚！”随即一揖而散。
第二天，魏主督兵攻城，城上矢石如雨，击伤许多魏兵。魏主便移兵南下，令中书郎鲁秀攻打广陵，高凉王拓跋那攻打山阳，永昌王拓跋仁攻打横江，所过城邑，无不残破。江淮大震，建康戒严。宋主刘义隆急忙任命臧质为辅国将军，令他率一万多士兵援救彭城。宋军行进到盱眙，听说魏兵已渡过淮河，臧质急忙令部将臧澄之、毛熙祚分别屯驻东山及前浦，然后大军在城南驻扎。哪知臧、毛两营垒相继被破，魏燕王拓跋谭驱兵直进，进逼臧质的营寨。宋军惊散，只剩下七百人，随着臧质奔往盱眙城。
盱眙太守沈璞莅任不久，便将城郭整治一新，而且储财存粮，连刀矛矢石也无不具备。当时，僚属还觉得他多事，等到魏军杀过来，僚属又劝他退回建康。沈璞愤然道：“我之前筹备守具，为的就是今天，如果敌寇见我城郭甚小，而不愿攻打，那我刚好省些气力。如果他们攻打，那我正好精忠报国，你们也可以趁机立功邀赏。听说过昆阳、合肥的故事吧？新莽、苻秦拥众数十万，却被昆阳、合肥两个小城打得一败涂地。我们现在的条件比它们好，还有什么好怕的？”僚属这才有了斗志。
沈璞召来两千名精兵，闭城待敌。等到臧质叩关，僚属又劝沈璞不要放他进来，沈璞叹道：“同舟共济，胡越一心，况且人越多越容易击退胡虏，我们怎么能将臧将军拒之门外呢？”随即打开城门，将臧质迎入城中。臧质入城后，见城中守备充足，顿时喜出望外，当即与沈璞一同坚守。
魏兵出征从来不带粮草，专靠沿途打劫粮草作为军需。因此，这次南下，魏军吃了大亏。南方的百姓不等魏军过河，便已藏匿起来。魏军渡过淮河后，沿途一无所获，累得人困马乏。听说盱眙有存粮，魏军恨不得一举入城，满载而归。然而攻打许久，都不见盱眙有所动摇。魏主无计可施，只得留下数千人驻扎盱眙，然后率大军继续南下。
行军到瓜步，魏主拓跋焘毁掉民舍，做了竹筏，扬言将渡江深入。建康城内大震，众臣都急得没有办法。宋主刘义隆忙令领军将军刘遵考率兵扼守入京的要隘，自采石至暨阳，绵亘六七百里，全部陈舰列营，严加防备。太子刘劭镇守石头城，调度水军。丹阳尹徐湛之驻守石头仓城。吏部尚书江湛兼职领军，调度各陆军。宋主忧心忡忡，登上石头城，一转头，见江湛在身边，宋主叹道：“北伐之事，本来就没几个人赞同。如今百姓怨苦，百官忧虑，回想起来，这都是朕的过失，真是后悔啊！”江湛不禁脸红，低头无语。宋主又叹道：“如果檀道济还在，胡马怎么能嚣张至此呀？”
就在宋主惶恐万分，束手无策的时候，魏主因不想长久对峙，特意派使者带着橐驼和名马前去请和求婚。宋主也派田奇送去珍馐美味。魏主见有黄柑，当即取来往嘴里送，并大口大口地往嘴里倒御酒。魏主身边的亲信担心食物里面有毒，忙偷偷提醒他。魏主不理，只是把孙子叫到面前，对田奇说：“我大老远来这里，并不是想霸占你们的土地，而是想与你们和好如初，永结姻缘。宋主如果愿意将女儿许配给我孙子，我就把我的女儿许配给武陵王刘骏，并且从此不让一匹战马踏入南方！”田奇随即回去禀报宋主。宋廷大臣多半主张和亲，只有江湛对宋主说：“胡虏言而无信，不如拒绝和亲。”忽然有一人说：“如今三位王爷在外危急万分，陛下也忧劳过度，难道你还要主战吗？”这几句话响彻殿宇，吓得江湛大惊失色，忙回头一看，说话的不是别人，正是太子刘劭。江湛自知太子不好惹，慌忙退下。刘劭向身边的部属使了个眼色，就见江湛险些被挤绊倒。宋主看不过去，出言呵斥，刘劭仍抗议道：“北伐战败，数州沦陷，只有斩杀江湛、徐湛之二人，才能向天下谢罪！”宋主刘义隆皱着眉头说：“北伐是我的意思，不能怪他们！”刘劭怒气冲冲地退了出去。
碰巧魏主拓跋焘也不再请和，在瓜步山上度过新年后，便下令拔营北归。经过盱眙，魏主又派使者入城，赠送刀剑以求美酒。守将臧质给了他几坛。魏主酒兴正浓，立即开封取酒，哪知一股臭气直冲鼻头。仔细一看，坛中并不是什么美酒，而是混浊的小便。魏主大怒，令将士攻城。然而盱眙城虽小，却不易攻下。第一天攻不下，第二天还是攻不下，过了一个月，仍然没拿下盱眙城，魏兵却死了一万多人。春和日暖，尸气熏蒸，免不了酿成瘟疫，魏兵多半染病，骨软神疲。紧接着，又传来宋主派水军自海入淮，支援盱眙的消息。魏主担心彭城的武陵王刘骏和江夏王刘义恭会阻住自己的归路，忙毁掉战具，率众北归。
废王刘义康就是在这场战争中结束生命的。当时，将军胡藩的儿子胡诞世想奉迎刘义康为主，他纠集两百多人潜入豫章，杀死太守桓隆之，据郡作乱，却被卸职归乡的檀和之击毙。太尉江夏王刘义恭举荐檀和之为司马，并奏请将刘义康迁到远方。宋主于是下令把刘义康迁到广州，并派人通知刘义康。刘义康对来使说：“人总有一死，我也不想再活了。但如果我一定想作乱，哪儿还会分远近？要死就死在这儿吧，我已不愿再迁了！”宋主得知后，很是犹豫。当魏兵入境时，内外戒严，太子刘劭及武陵王刘骏怕刘义康趁机作乱，便屡次用“大义灭亲”四字来劝说宋主。后来，宋主派中书舍人严龙拿毒药前往安成郡。刘义康看着毒药，皱眉说：“佛家不许人自杀，你随便处置我吧。”严龙随即用被子捂住刘义康，将他捂死。
江夏王刘义恭、武陵王刘骏二人因没能抵制住胡虏，而遭到谴责，刘义恭被降为骠骑将军，刘骏被降为北中郎将。青、冀刺史萧斌、将军王玄谟也被罢官。经过这次交锋，南兖、徐、兖、豫、青、冀六州的城邑都变成废墟，萧条不已。刘宋从此衰败了。