曹操大军入城之后，召集谋士开会商议攻取下邳的方案。
荀彧进谏说：“云长保护玄德的妻小，死守此城。如果不采取闪电战，很有可能关羽会去投奔袁绍。”
曹操说：“我一直很喜欢云长的武艺和人品，想收过来为我所用，不如派人去招降？”
郭嘉说：“云长这个人，义气深重，肯定是不会投降的。就算派人去，也会被他杀掉的。”
帐下一人走出来说：“我和云长有一面之交，我可以过去劝降。”
大家一看，是张辽。
程昱考虑了一下，说：“文远虽然和云长有些交情，但我看关羽不是能用言语说动的。我有一计，可以让他进退两难，这个时候再让文远前去劝降，必定会成功。”
曹操说：“什么计策？赶快说说。”
程昱说：“云长有万夫不当之勇，不用计很难取胜。我们可以差刘备手下投降的兵去下邳见关公，就说是逃回的，在城中作为内应；然后我们引关公出战，假装战败，把他引诱到其他地方，再用精兵截住他的归路，就算他能够回去，让下邳内应军士紧闭城门，大喊已经归降丞相。他去无可去，归无可归，这个时候再去找人劝降即可。”
曹操一听乐了，这真是一个好计策，马上安排几十个徐州降兵来下邳找关羽。
关羽确实认为他们就是逃回来的人马，留下后并没有怀疑。
第二天，夏侯惇为先锋，带着五千精兵前来小沛挑战。
关羽不出，夏侯惇就让人在城下辱骂。
关羽实在听不下去了，就带着三千人马出城迎战。
两队人马列阵后，夏侯惇故意与关羽交战。
打了十多个回合，夏侯惇拔马往回走，关羽只当是夏侯惇抵挡不住，追着前去厮杀。
夏侯惇边战边退。
关羽大约追了二十多里地，担心下邳有问题，就准备提兵返回。
曹军看时机已到，左有徐晃，右有许褚，各带一路人马截住去路，关羽心思不在这里，就想赶回，两边伏兵马上射下几百支箭，关羽过不去，转身再交战，徐晃、许褚接住交战。
关公确实很勇猛，徐晃、许褚竟然不能抵挡，被关羽杀退。
关羽想带兵回下邳，又被夏侯惇截住厮杀。
关羽被车轮战折腾了整整一天，眼看着天色将晚，无路可归，只得到一座土山屯兵歇息。
没成想，又被曹兵团团围在山上。
关羽在山上看到下邳城中火光冲天，知道下邳已经丢失，心里琢磨着后续的计划，又累又困，不知不觉睡着了。
第二天刚蒙蒙亮，山下忽然有一人骑马跑了上来。
关羽仔细一看，原来是张辽，忙迎候，说：“文远，你也是来和我厮杀的吗？”
张辽说：“当然不是。我是想起了之前的交情，专门来看看你。”说完，弃刀下马，和关羽一起坐在山顶。
关羽说：“文远是来劝降的吧？”
辽说：“不是。之前兄长曾救过弟弟一命，今天弟弟怎么可能不来救兄长呢？”
关羽说：“难道文远是来帮我的吗？”
张辽说：“也不是。”
关羽说：“既然不是来帮我的，那来这里干什么？”
张辽说：“玄德和翼德不知生死。昨晚曹丞相已经攻下了下邳，城中军民都没有受到伤害，还派专人护卫玄德家眷，不许惊忧。我想让兄长早点知道这个情况，所以才过来报告兄长。”
关公有点不高兴了，发怒说：“你说这话还是来劝降的啊！我虽然身处绝境，但早已将生死置之度外。你赶紧走吧，我们在山下决战。”
张辽大笑说：“兄长，你说这话不怕天下人耻笑吗？”
关羽说：“我是为忠义而死，怎么会被天下人耻笑呢？”
张辽很有耐心地娓娓道来，说：“兄长如果死在这里，就有了三大罪过。”
关羽被张辽说的有点懵，就问：“哪三罪？”
张辽说：“当初玄德公和兄长你结义的时候，你们发誓要同年同月同日死；现在玄德公刚刚战败，而兄长就战死，如果以后玄德公东山再起需要兄长的帮助，却再也找不到你了。你岂不是违背了当初的誓言？这是第一罪。玄德公把家眷付托给兄长，兄长如果战死，二位夫人孤苦伶仃，无依无靠，岂不是有负玄德公重托？这是第二罪。兄长武艺超群，精通经史，不想着帮玄德公匡扶汉室，只想着鲁莽赴死呈匹夫之勇，您所谓的义在哪里呢？这是第三罪。兄长有此三罪，弟不能不告知你啊。”
关羽沉吟了很久，慢慢地说：“你说我有三罪，想让我怎么办呢？”
张辽说：“现在徐州各地都是曹丞相的人，兄长不投降的话就必须死；就这么毫无意义的死有什么用呢？还不如投降丞相，再慢慢打探玄德公的消息，一旦知道了他的消息，你再去投奔也不迟啊。一者可以保护二位夫人，二者也不违背桃园结义的誓言，三者可以留着您的有用之身：这三个好处，兄长一定要好好考虑啊。”
关羽考虑再三，说：“老兄说了三个好处，那我有三个约定。如果丞相能同意，我就卸甲归降；如果不同意，我宁愿带着三个罪过死战。”
张辽说：“丞相宽洪大量，无所不容。我想听听兄长说的三个约定。”
关羽说：“第一，我和刘皇叔发过誓，要共扶汉室，我现在只向汉帝投降，不向曹操投降；第二，二位嫂嫂那里要按照皇叔的待遇给予俸禄，所有人不能上门骚扰；第三，以后一旦知道刘皇叔的消息，不管千里万里，我也会辞别去找大哥。这三条，缺一不可。文远可以马上回去汇报。”
张辽嘴里答应着，马上上马回去给曹操禀报，先说了降汉不降曹的事。
老曹笑着说：“我是汉朝丞相，汉朝就是我啊。这个可以同意。”
张辽又说：“二位夫人那边要按照皇叔的待遇给予俸禄，所有人不能上门叨扰。”
曹操说：“我会在皇叔的待遇基础上加倍给她们。至于说不许上门叨扰，这是必须的，有什么好疑虑的！”
张辽又说：“最后一条是一旦知道玄德的消息，不管在什么地方，不管多远都会马上赶过去。”
曹操摇着头说：“那我留着云长有什么用呢？这个事不能答应。”
张辽说：“丞相难道不知道豫让众人国士的故事吗？刘玄德无非不是对云长有恩厚而已。丞相也施以厚恩，慢慢融化他的心，哪里会担心云长不服呢？”
曹操说：“文远说的有道理，我同意这三个约定。”
张辽再回到山上回报关羽。
关羽说：“虽然如此，还是请丞相先退军，我要先去城里面见二位嫂嫂，告知她们这个事，然后才可以投降。”
张辽再回去把关羽的想法报给给曹操。
曹操马上传令三军退后三十里。
荀彧说：“丞相不可，会不会有诈。”
曹操说：“云长是个忠义之士，他不会失信的。”
说完，就带兵后退了。