在柴荣对南唐进行作战的时候，北方的北汉和契丹总是借机在后面小规模地骚扰。这使柴荣大为恼火，本来想平定南唐之后再去把契丹在石敬瑭时候侵占去的燕云十六州收复过来，今见南唐已经割地投降，就先把南唐的事搁在一边，回头去收拾契丹。
柴荣平定淮南回京之后，立即令张永德前去北方御敌。后周的成德军节度使郭崇也开始大规模地向契丹的束城(今河北河间)进攻，以回应契丹军队的屡屡骚扰。
显德六年三月柴荣令各路大军集往沧州,还让诸将疏浚北地河流，在河流沿岸整修舟师，以做战争的准备。
四月，柴荣抵达沧州。这一天，天还未亮，柴荣便带领着数万步兵和骑兵由沧州开拔，直击契丹的国界。
柴荣的军队走到沧州以北一百里之外的宁州时，契丹的宁州刺史王洪倒也自知时务，没有打一仗，便带着他的全部属下投了柴荣。
二十日后，柴荣专门对水军进行整治，让赵匡胤担任水路都部署，又让韩通担任陆路都部署。两路大军齐头并进，先行开路，两日之后，柴荣也由水路坐船北上，战船首尾足有好几十里那么长，规模甚是浩大，气势壮观。所到之处，契丹那些守将望风而降。益津关向西，水路慢慢变得狭窄，几千只大型战船很不容易通行。柴荣便下令步兵牵引着小船继续进发。他自己也登上岸去，骑马向前。
此时，后周的大军还没有赶上来，护驾的士兵不到五百人，而契丹的战马总是时不时地出现在附近不远的地方。作为皇帝的柴荣处境是极其危险的，身边的官员非常地担心：假如皇帝出了什么差池可如何是好啊！
赵匡胤听说皇帝处境危险，赶紧带领着人马飞奔前来护驾。
次日，柴荣率部来到了瓦桥关(今河北的涿州)南。赵匡胤首先来到这里，瓦桥关兵将五百人向赵匡胤投降。赵匡胤还没来得及解下马鞍，又闻说瓦桥关西北边有几千契丹兵将在那里，就马上又率领一百多名战骑前去进攻。契丹兵甚是恐惧，一看见骑兵便赶紧逃跑。
之后，侍卫亲军指挥使李重进和其他诸将也都跟着到了。面对柴荣强大的阵势，契丹的瀛洲刺史连忙投降，另一个州的刺史也跟着投降。
真是兵不血刃，所向披靡。
柴荣在瓦桥关行宫大摆宴席来庆祝此次胜利，顺便跟众将商讨一下收复幽州的事情。
皇帝柴荣对于收复幽州兴致是很高的，然而，他手下的将领们却持不同的意见，有人说：“陛下从京城里出来了四十二天，兵不血刃就把燕南这些地方全部收复了过来，真是前世未有的大功勋。但是，现在契丹的真正实力全聚集于幽州的北面，我们不宜太过深入了。”
但此时柴荣统一中原的愿望太过迫切，所以对于众将的表态很是不满意。他依然下命令让李重进任先锋，率先出兵，前去攻占固安。
发布命令的当天柴荣就因太过操劳，顿感身体极度不适，难以再行军打仗。于是攻打固安的行动取消了。
后来，柴荣病情加重，不得以决定班师回京。
回京后，赵匡胤军功实在卓著，并且明显地超过了殿前都检点张永德，因此柴荣颁旨，让赵匡胤代替张永德，任殿前都检点一职，成为了禁军当中的最高将领。
但是，赵匡胤心里很是不自在，因为张永德和赵匡胤关系向来是非常好的，赵匡胤一直在张永德的手下干。张永德一直也很器重他，凡事都征求他的意见，并屡屡向皇帝柴荣推荐赵匡胤，两人知己知彼，像亲兄弟一样。赵匡胤的妻子因病去世几年后没钱续弦，还是张永德借给他银钱操办的婚事。
好在，张永德仍旧加检校太尉、同平章事之官衔，级别还是很高的。
赵匡胤一心为公，为了事业，从来不知道置家产，生活很是清苦，但由于他总是得到皇帝的赏识，就不免招致嫉妒者。那时候，柴荣对于官员腐败问题很是重视，有一次赵匡胤跟着柴荣远征，有人就对柴荣说赵匡胤聚敛了不少金银财宝，然而，柴荣命人打开赵匡胤的箱子一看，发现了一捆一捆的都是些破旧的书籍，兵书战策、治国之道，什么都有……
可惜的是，赏识赵匡胤的柴荣，这位五代史上最有作为的明君，这次患病倒下后就再也未能起来，就此撒手人寰了。
之后，柴荣七岁的儿子即位。
柴荣在临死之前，曾把朝中大臣们招到榻前，他很清楚年仅七岁的小孩子不可能有什么能力管理国家大事，就是刚刚册封的皇后也才二十多岁，能有多少政治经验？因此他一定要找几个信得过又有能力的大臣来尽心地辅佐。
在军事上，柴荣最信任的是赵匡胤，知道赵匡胤是个有血性的好男儿，又一心为国。
便把他安排到了最重要的岗位上。这也等于把整个江山都托付给了他。