俄国退还伊犁——一次以武力为后盾的外交胜利
当左宗棠抵达哈密后不久，驻英法大臣曾纪泽也从伦敦到了圣彼得堡，开始与俄政府谈判。左宗棠到哈密的主要任务，是为武力收复伊犁做准备，他定下了三路收复伊犁之策，积极调兵遣将，筹粮筹饷，又在科布多到古城一带增设台站，调新来各营设防巴里坤、古城一线。俄国人看到清军前线调动繁忙，又听说左宗棠已到新疆，也派兵增援伊犁，还扬言要派兵船来中国，封锁辽海，一时前线剑拔弩张。但是左宗棠是以武力作为曾纪泽外交谈判的后盾，他仍在静观谈判结果，俄国人也不敢贸然动武，所以伊犁前线处于相持状态，暂时平静无事。
虽然西线无战事，但既到了新疆，就有许多工作要做。左宗棠在青年时期就关注西部边疆，22岁（1833年）赋出“西域环兵不计年”的诗，还提出“置省尚烦他日策”的期望。他研究过龚自珍关于新疆建省的意见，虽然认为龚自珍未亲到新疆，不了解该地山川形势，所以建议有许多错误，但建省之说却是不易之论。50年后，他以督办新疆军务的钦差大臣身份来到新疆，第一件要办的事，就是积极筹备新疆改建行省。
光绪三年六月十六日，南疆尚未收复，他上奏清廷：“为新疆划久安长治之策，纾朝廷西顾之忧，则设行省，改郡县，事有不容己者。”次年正月，南北疆底定，他又上疏，认为“新疆改设行省，事关西北全局”，建议即召开廷臣及各省督抚会议。十月，他又一次上疏，详细陈明必须改行省的理由。清政府对新疆一直是实行军事管制的办法，“治兵之官多，治民之官少”，中央不帮助地方，派去的官员和地方头目等不关心人民疾苦，却鱼肉人民，以致新疆多年来地方蔽塞，生产凋零，农牧不振，文化教育落后，人民生活极端贫困；必须改行省，才能收长治久安之效。而且目前“天时人事，机会正好”，改行省的条件已成熟，“失今不图，未免可惜”。光绪六年（1880年），在他来哈密的前一月，又上疏请开设行省，先简派督抚大臣前来执政，还拟了一份建置大略。
清朝廷对他的历次建议不很积极，这次回答说：“待伊犁收复后再定议。”伊犁收复后，又拖了好几年，直到他去世前几个月，新疆改省才终于实现。现在看来，改建行省，对于维护西部领土的完整、新疆各族人民的安定团结和社会繁荣，是多么重要！
新疆在敌人盘踞之下十余年，又经战乱，百废待兴。左宗棠提出了七大项善后事宜：修浚河渠，建筑城堡，广兴屯垦，清丈地亩，厘正赋税，分设义塾，更定货币。
道光二十九年（1849年），左宗棠和林则徐在湘江舟中，曾谈论新疆，林则徐告诉他，应兴修水利，广种稻田。30年后他经过实地考察调查，决心继承林则徐的遗愿，首先开发水利和农业。他计划在哈密修石城子渠，迪化州修永丰、太平二渠，镇西厅、安顺、绥来、奇台等县都要修渠；吐鲁番除修渠外，还要开凿坎儿井185处。坎儿井是当地人民创造的、适合炎热干燥气候的地下水源，林则徐在新疆时曾大力提倡，还有所发展。后人称之为“林公井”，与“左公柳”齐名。
新疆到处都有桑树，本地人取桑葚代粮食，也用于酿酒或做药材。除了和阗等少数地区外，都不知道养蚕织丝。左宗棠命在南北疆各地设立蚕桑局，本地桑苗不够，派员到江浙采运，在各地广种桑树；又到湖州募雇了60名养蚕专业人员，分赴各地教人民种桑、养蚕、煮茧、缫丝、织造等，一时间蚕业大兴，生产出了各类丝绸产品。左宗棠认为这是富民之法，对国家也有好处，高兴地说：“把浙江的桑移植于西域，实是在开辟了奇迹，古今之美利。不是书呆子，决干不了这种事情。”有一位荆紫关转运分局委员瞿良份（敬庵），擅自截留了一批西运的桑秧，分发附近各州县种植，左宗棠对他自作主张不满意，但对他重视在西北推广植桑，却又很高兴，引为同道，认为瞿良份大概也是一个“书愚”吧。
左宗棠带给新疆人民的除了蚕桑外，还有南方的蔬菜和内地的其他东西。民国初年曾到新疆游历的谢彬写了一篇《新疆游记》。他到哈密时，哈密副将冯桂臣设筵招待，席上有一盘烧鲫鱼，冯桂臣告诉他，是左文襄公西征时带来的鱼种，还带来湖南盛产的鳝鱼，可惜当地人以为是蛇，不愿吃，因而没能推广。
在文化教育方面，左宗棠为各地少数民族儿童办了许多义塾，教读《千字文》《三字经》以及六经等，让各族人民识汉字，以消除民族隔阂，也便利各族人民的工作，还可参加科举考试。维吾尔族儿童父兄都以送子弟读书为荣。官军刊布的文件一般中间为汉文，旁注维文，很受人民欢迎。
新疆市面使用的钱币是阿古柏发行的天罡钱，成色低劣，造成市场混乱。左宗棠命兰州机器制造局制造新式铜模，由张曜督局试制一批银币，用银片捶成，每枚重一钱，外圆内方，在市面流通，因为成色足，又不易假造，很受人民欢迎。
左宗棠又在荒地大兴屯垦，对各府、州、县建制也大力整顿。但是对原设维吾尔族官职，如阿奇木伯克、伊什罕伯克等，则仍维持不变，依旧用维吾尔族人治理，对于办理得力的，予以奖励、升迁，发现维官欺压维民，即予以惩办，因此维民都十分感服。
当左宗棠正在新疆忙忙碌碌，一方面办理善后、建设工作，一方面在前线积极备战时，俄国人一直在观察清政府的态度，而且密切注视左宗棠和西征军的行动。当他们得知曾纪泽已奉命来俄京改订条约、西征军准备以武力配合收回伊犁时，深恐到手的利益又失去，就对清政府采取威吓讹诈的手段。一方面俄国驻华代办凯阳德扬言：“俄国不该让的就决不让。愈让愈不好，俄国并不是没有力量。至于条约中国批准不批准，俄国全不在乎。”一方面在西北和东北显示武力，除了在伊犁增加兵力达1.2万人，扼守纳林河一带，还在费尔干省增驻五千人军队，威胁喀什噶尔。又在黑龙江以北、乌苏里江以东增派军队，做出入侵吉林、黑龙江的姿态。另外又从黑海调来一支由20余艘兵船组成的舰队，在黄海一带巡游，扬言准备封锁中国海面。气氛紧张，中国沿海也加强了戒备。
晚清外交家曾纪泽
俄国人的威吓手段收了效，本来就游移不定的清朝廷慌了手脚。加之有一个英国军人戈登，就是当年帮助清军镇压太平军的“洋枪队”头领，应李鸿章之聘来北京“调停”伊犁问题，实际李鸿章是请他来帮自己说服清廷投降的。他到天津后，首先与李鸿章密谈，然后威胁说：“如果中国要作战，就当把北京的近郊焚毁，政府档案和皇帝都得搬到内地去，还需要准备作战五年。”消息传到京师，朝廷王公大臣更加恐慌。
光绪六年（1880年）五月十四日，清朝廷召开紧急会议，讨论伊犁交涉的对策。那时文祥已去世，投降派李鸿章的意见占了上风，连平时主战的工部尚书翁同龢、南洋通商大臣兼两江总督刘坤一等都赞成委曲求全，与俄国妥协。清廷便在十九日发出上谕，决定寄希望于谈判，实则是放弃用武力收回伊犁的计划。俄、英、法、美、德等国趁此对清政府惩办崇厚一事提出抗议，清廷屈从西方压力，减免了崇厚的死刑，改为“权行监禁”。英俄之间和各列强之间虽有矛盾，但在侵略、压迫中国时，西方列强总是采取一致的态度。他们唯恐中国人在新疆打败俄国，这头“睡狮”醒了过来，对他们瓜分中国的企图不利。
清朝廷决定妥协，还必须压制主战派，唯恐左宗棠不受节制，在新疆贸然动武。七月初六日下了一道诏书，立即将他调回京师。诏书说：
左宗棠现已行抵哈密，关外军务，谅经布置周详。现在时事孔艰，正须老于兵事之大臣以备朝廷顾问。左宗棠着来京陛见，一面慎举贤员堪以督办关外一切事宜者，奏明请旨，俾资接替。
左宗棠接到诏书后，十分气愤，但又无可奈何。他是五月到哈密的，七月就颁诏调回，明明是出尔反尔，政策有了重大变化。他深知朝廷上了敌人虚张声势的当。他对俄国情况有一定的了解，他侦得的情报是，俄国去年天灾，粮食缺乏，又刚刚结束与土耳其的战争，财政枯竭，国内也不安靖，目前不可能以全力对付中国，只是虚张声势，即使在新疆作战，它也不可能取胜。他给儿子的信中说：“西北布置已有条理，俄意欲由海路入犯，而在事诸公不能仰慰忧勤，虚张敌势，殊为慨然！我之此行，本不得已。”他给将领们的信中，对和议结局深感忧虑，慨叹说：“俄事尚未定议，而先以兵船东行，为恐吓之计；谟谋诸公便觉无可置力，国是混淆！计抵京时，错将铸成矣，为之奈何？！”
虽然明知在这紧要关头将他调回京师，将铸成大错，但他不得不成行，尽管他一再申明，回京之行是不得已、无可奈何之举。他于是奏荐刘锦棠督办新疆军务、张曜帮办军务、杨昌濬护理陕甘总督。刘锦棠正在喀什噶尔，他准备等刘锦棠来到，办理移交手续后，即启行入关。
他在哈密等候刘锦棠的时候，仍然关心新疆地方的工作，同时仍然坚持以武力为外交后盾的主张。这时曾纪泽已抵达圣彼得堡，与俄政府开始谈判，国内主战、主和两派的人又都议论纷纷。左宗棠写信给总理衙门，坚决主战，反对屈辱投降，认为“察看情形，实非决之战胜不可”！在信中还说：“主战固以自强为急，即主和亦不可示弱以取侮。”他斥责那些自命深懂洋务的媚外投降派：“慨自海上用兵以来，其始坏于不知洋务之人，不知彼己真实情形，侥幸求胜；其继坏于自负深悉洋务之人，不顾大局长久下落，苟且图存，以致愈办愈坏，无所底止。”
那时俄国正在中国东北边境炫耀武力，在珲春边境构筑工事，兵舰也开入新开河。左宗棠得悉东北紧急的消息后，立命王诗正、刘璈、王德榜率军2500余人，先期入关，驻屯张家口，准备和俄国一战。他给刘锦棠的信说：“俄事非决战不可，连日通盘筹画，无论胜负云何，似非将其侵占康熙朝地段收回不可！”
他还梦想能战败俄国，一举夺回过去丧失的大片土地，恢复康熙年代的版图。但是这时的清朝廷已听不进左宗棠的这些意见了。
光绪六年十月六日，刘锦棠抵达哈密，六天后左宗棠启行入关。出关时，旌旗招展，舁榇以行，悲壮激烈；入关时，心情黯淡。他在入关途中时，曾纪泽正在俄京谈判。曾纪泽虽然深受曾国藩和李鸿章的影响，对曾国藩办理天津教案，认为“正是拼却声名，以顾大局”，为父亲辩护，但他终究是位爱国者，他不赞成李鸿章放弃伊犁的卖国观点，认为伊犁是西陲重镇，不能轻易让人。他也不赞成左宗棠“俄事非决战不可”的主张，以为战事一开，“在东而不在西，在海而不在陆”，防不胜防；唯一的办法，是进行坚定不移的外交谈判，“持之以力，百折不回”。在谈判中他显示了折冲樽俎的才能，但是左宗棠的积极备战，确实做出了强有力的后盾。
俄国人当时并不愿意，也无能力和中国进行全面作战，参加谈判的外交部高级顾问若米尼表示过：“战争对于我们将是耗费巨大、没有止境，而又无益的。”东西伯利亚总督也上奏沙皇说：“不宜轻易和中国作战，远东舰队力量薄弱，陆军军力也不强，不足以防守边疆。”因此俄政府做出了“让步”，同意修改原订的条约，交还特克斯河谷约二万平方公里的土地和通往南疆的穆扎素尔山口；但仍割占霍尔果斯河以西一万余平方公里的土地。设领事的地点也减为嘉峪关和吐鲁番两处，但“赔款”却由500万卢布增到900万卢布，而且还保留了一些商业特权。改订的条约仍然是一项不平等条约，明明是俄国侵占中国领土，交还是理所当然的事，却要索取赔款，还割占一部分土地，真是岂有此理！但是新约和旧约相比，总算收回了一些权益。在中国近代史上，这算是一次差强人意的外交“胜利”。
这次外交上的“胜利”，曾纪泽的功劳不可泯灭，左宗棠的实力后盾更起了重要作用。当曾纪泽和俄国政府谈判时，俄国人经常打听左宗棠和西征军的动态。左宗棠于光绪六年十月十二日离开哈密，一个月以后，俄国已得到他进京的消息，那时中俄草签的条约内容已送北京审批，还没有回信，俄方不了解真相，怀疑清政府召回左宗棠，是准备发动战争，俄方首席代表、代理外交大臣格尔斯于十一月初十日会见曾纪泽，急急忙忙向他打听，问他：“听说左宗棠现在已进京，恐怕会挑起战事，不知确否？”
曾纪泽回答说：“这是谣言。”他确实还没有听到这项消息。
格尔斯接着假惺惺地说：“中俄两国和好二百余年，若为不值一提的小事就打起来，实在是不合情理的。”
他们在谈判中仍然占了便宜，担心清政府会变卦，也暴露了不愿打仗的心态。
隔了一个多月，曾纪泽得到清政府对条约内容同意的谕旨，就约见俄方代表公使布策，告知这项消息。布策很高兴，表示放了心，他说：“前接从北京的来信说，左中堂将进京，似乎有请中国动兵之意，本国深不放心。今天听贵爵所告的消息，我才放心了。”
当时清政府信息迟缓，曾纪泽其实还不知道左宗棠奉调的事，他回答道：“这是谣传，不可轻信。其实左中堂年逾六旬，老成持重，岂有唆使构兵之理？我说一句老实话：中俄两国和好，固无须左中堂进京；即使中国有用兵之意，则西边正关系紧要，更没有调他进京之理。”
曾纪泽这句老实话，暴露了清政府妥协求和的本意，但是幸好俄方并不相信曾纪泽会这么老实，他们明明得到俄国代办自北京来的电报，知道左宗棠调京的事，认为曾纪泽还在抵赖，不知道清政府葫芦里卖的什么药。
俄使回去向沙皇汇报，沙皇深感不安，隔了两天，格尔斯奉命来见曾纪泽说：“上次我和你谈过，这次是奉本国皇帝之命，皇帝陛下听说左相奉召入京，很不放心，我们两国务须及早签约，免生枝节。”
曾纪泽仍回答他：“左相并无进京之信。”又安抚他说：“左相是中国大臣，老成重望，是明白大体的人。此次条约既是两国意见相洽，左相也必会喜欢。”他“请格大臣转奏贵国皇帝，但请放心。……我所受者，系本国皇帝电旨，皇帝令我应允签约，谁敢阻止”！
一个月以后，光绪七年正月二十三日，改订的中俄《伊犁条约》终于签署了。从交涉过程来看，俄方急于签约，比清政府更为迫切。如果清政府能始终采纳左宗棠的强硬策略，多坚持一些时间，必然能收回更多的权益。
光绪六年十一月二十一日，也正是曾纪泽在俄京与格尔斯会谈的时候，左宗棠由哈密回到了兰州。他和护理总督杨昌濬办理了移交手续。十二月初四日起行离兰回京。当关内外各族人民知道他将离开西北时，上自白发老者、官绅士人，下至兵丁、百姓、妇孺，都感到失去了一位可靠的保护人。一时人心惶惶，街谈巷议，都希望能留住左宗棠。但是圣旨已下，不能更改。左宗棠的车队从哈密到兰州，从兰州到西安，一路上汉、回、维及其他各族父老、官员等都夹道攀留，焚香迎送，依依不舍。左宗棠只得一路停下来，安慰送行的人民，和他们珍重道别。
西北人民为了寄托对一位好官的感激崇敬的心理，当他还在西北时，就纷纷为他建立生祠，但屡遭他反对。同治十一年，兰州绅民在五泉山麓清晖阁为他建立了生祠，他到兰州后，亲自题额，改为祀泉、雹二神祠。西宁和甘州等地也都要为他建祠，他一概谢绝。当他离开西北后，鞭长莫及，有些地方还是为他建了祠，如乌鲁木齐就有祠，正殿供左宗棠二像，两旁悬了一副对联：
提挈自东西，帕首靴刀，十年戎马书生老； 指挥定中外，塞云边月，万里寒鸦相国祠。
对联据说是刘锦棠所写。刘锦棠去世后，乌城也建了一座刘公祠，内供刘锦棠照片。翁同龢写了一副对联，对他给予很高的评价：
齐名曾左无前绩； 开府疏勒第一人。
刘锦棠是远征到中国最西端喀什噶尔（疏勒）的第一人，当之无愧。左宗棠、刘锦棠、张曜、刘典等人收复了新疆，为国人所崇敬，又为西北各族人民办了些好事，受到当地人民的爱戴，这也是合乎情理的。
光绪七年初，左宗棠还没有到达京师，中俄《伊犁条约》已经签订了。左宗棠在得知条约全文后，很不满意，说：“伊犁仅得一块荒土，各逆相庇以安，不料和议如此结局，言之腐心！”
第二年初双方换文，伊犁将军金顺率官军进驻伊犁地区，结束了俄国人长达11年的殖民统治，至此新疆全境收复。这次外交谈判虽然不能尽满人意，但也总算是差强人意吧！