进驻新疆，“舁榇以行”——定三路收复伊犁之策
左宗棠接到诏令后，立即调兵遣将，定下三路规复伊犁的策略。东路由伊犁将军金顺率部万人，严守精河一带，防止俄兵东窜，并调金运昌卓胜营马队5000余人、步队1500人协助；中路由嵩武军统领、提督张曜率领马队500余人、步队4500余人，由阿克苏越冰岭向东，沿特克斯河直向伊犁，计程1250里；西路由刘锦棠率马队1500余人、步队8500余人，取道乌什，越冰岭向西，经布鲁特游牧地，约七站到伊犁，计程1250里。这条路久经封禁，但却是一条捷径。又派谭上连、谭拔萃、易开俊等填防后路。一一作了周密布置之后，左宗棠准备亲自出关，指挥前线瞬息万变的军事。
那几年天山南北连获丰收，关内外粮草充足，天气也十分和煦，不像从前寒风凛冽。西部前线，人腾马壮，将士踊跃争先，都愿为夺回新疆最后一块失地献出自己的一切。
光绪六年（1880年），左宗棠已68岁，在西北已有十余年，许多人称赞他日理万机，精力过人，实则他身体并不好，多年的戎马生涯，使他积劳成疾。来西北前就患长期腹泻，在肃州大营时不服西北水土，全身长满了风湿疹子，夜间抓搔不止，难以成眠。他又有咳血病，来西北后加重。有一天早晨起床时，忽然吐出鲜血十余口。自己原以为生不能出玉门，这次为了对付俄国霸占伊犁，必须出关，也居然能出关、远征新疆了，这是少年时代梦寐以求的事，心中十分兴奋。但他也深知，如果谈判决裂，和俄国开起战来，就不一定是二三年可以了结的事。以他年近古稀、衰病之身，能生出玉门，固是幸事，能否生还，却不可期了。
四月十八日，他率领亲军1000余人离开肃州大本营。前往新疆哈密。在队伍中，有几名壮士抬着一口空棺材，随着他的乘舆后面。这一列长长的队伍，旌旗招展，士饱马腾，在荒凉的戈壁滩上，缓缓地迎着苍凉的落日前进。这一幅悲壮的场景，显示了西征军全体将士不获胜利决不生还的决心，也显示了中国人民不可轻侮、中国领土不容侵占的神圣意志。左宗棠的这一勇敢、爱国的行动和决心，感动了全国人民，也震惊了中外。
黄昏时到达嘉峪关，天下了小雨，半夜雨下得大了。宗棠心中欣喜，今年正苦旱，有了这场雨，可以丰收了。离肃州三天后到达玉门，唐王之涣诗：“春风不度玉门关”，可以想象，出了玉门，尽是一片荒凉孤寂之地。宗棠却兴致很高，并不以出塞为苦，他说自己虽然不能与壮年人相比，但这次为国驱驰，“孤愤填膺，诚不知老之将至”！
二十五日抵达甘肃最西的安西州，他是个有心人，沿途留心观察人民生活和地方情况，看到一路上都是沙碛地，人烟阒寂，景况萧条，战乱以来，这一带受战祸最惨。他就献出养廉银两千两，交给地方官，请代买种羊，发给灾民和兵丁，从事畜牧和开垦荒地。
他一路细心观察，戈壁虽然缺乏水草，但砂石之间含湿润之气。虽然没有泉源灌溉，雨露滋润，但大小砂堆中遍生野草，还间有芦苇丛杂，既能长草，一定也能种粮食。他在兰州北山有一段经验，该地秦王川过去五谷不生，现在则产粮最多，看来关外也可仿照秦王川法，试种粮食。沙滩戈壁中虽缺少树木，近水地则还可见到榆柳，他以为下湿之地既可长榆柳，一定也可以种蔬菜瓜果。他将沿途看到想到的写信告知杨昌濬，嘱他对边地人民先教以畜牧，然后逐渐试以农业生产，使边地人民摆脱贫困，逐渐富裕起来。
五月初八日到达哈密，从肃州到哈密走了一个半月。哈密各族人民听到左宗棠来到，都纷纷拥挤在路旁迎接张望，有些人是从百里外老远赶来，有些老人也扶着拐杖来看。哈密原有新、老、回三城，经过战乱，原城已半成瓦砾。左宗棠住在新建的哈密大营，大营建立在河东北岸旧名孔雀园的一片高敞的长坪中，用黄土筑成围墙，与新城相对峙，离城约三里。营内可容纳数千官兵。
左宗棠到哈密后，恐怕士兵闲居无事，丧失斗志，就在大营附近开辟了一片荒地，命士兵们耕种杂粮；又在大营内开辟菜园20亩，他对种菜既有兴趣，又有经验，每天都要去菜园督看几次。当时中俄伊犁前线紧张，军事调动频繁，左宗棠在菜园里消磨时间，其实也包含他教导刘锦棠学习曹孟德，每大战之前“意思安闲，如不欲战，而每战辄利”的意思。
有一个德国人叫福克，在上海开设洋行，曾为左宗棠经办购买德国的织呢、开河等机器，运去甘肃应用。光绪五年十二月初，他和奥国人满德及一位姓席的翻译从上海出发。次年六月二十九日抵达哈密，比左宗棠到哈密只晚了一个多月。他们特去拜望左宗棠，因为他们曾帮助买机器，又是德国人，德国还没有在中国动过武，左宗棠对他们比较有好感，待他们很客气，请他们住在大营内上房后侧，每日三餐一同进食饮酒，常常谈谈洋务和海外情况。
福克后来写了一篇《西行琐录》，记载了左宗棠在哈密的生活起居情况。每天的生活很有规律，天刚黎明，左宗棠就起床，先到菜园里去眺望一会儿，早上空气新鲜，他在菜地里走走，活动活动筋骨。然后回营房，立即接见属员，洽谈工作。谈完差不多7点钟了，于是开早饭，他和随员们一同吃，福克等三人也同吃，有六碗菜。早饭毕，即批阅各方公事，草拟奏折，回复来往信件等，一直工作到中午。12点吃中饭，饭后继续工作，直到下午五六点钟，又到菜园去，督看士兵们浇水灌地。菜园内瓜菜品种很齐全，他看到菜长得好，地里一片青翠，满怀喜悦，一日的疲劳也去除了。然后回营房晚餐，饭后与营务处人员谈谈天，福克和满德也参加，谈到深夜12点才就寝。
福克深情地回忆说：“左爵相年已七旬，身在沙漠之地，起居饮食，简省异常，内无姬妾，外鲜应酬之人，其眷属家人多未带至任上，唯一人在塞。老臣蹇蹇，砥柱中流，不特清廉寡欲，硕辅朝廷，凡一切爱民敬事之诚，尤旷代所罕见也。”
他又赞叹左宗棠爱国、爱人民的精神，说：“一月以来，觉爵相年已古稀，心犹少壮，经纶盖世，无非为国为民；忠正丹心，中西恐无其匹。爱民犹如赤子，属员禁绝奢华，居恒不衣华服，饮食不尚珍馐。如此丰功伟业，犹不改儒生气象。”
福克对左宗棠高尚的品德、严肃的作风、俭朴的生活和丰伟的功业，佩服得五体投地。
一次他问左宗棠：“爵相如此高年，家中不积攒房屋田地，何必自苦如是？”
左宗棠回答他说：“君子做官，是为国家的利益做事，而不是为私利。我不愿留财产给子孙，是恐怕给他们添麻烦，反害了他们。”
几十年的戎马生涯，左宗棠一直过着艰苦朴素的生活，家眷不在身边。除同治五年夏周夫人曾到福州督署短聚数月外，他一直单身住在军营中，与士卒同甘共苦。周夫人于同治九年去世后，几个儿子曾轮流到兰州来陪伴他，直到光绪五年，张夫人由幼子孝同陪同，并携带孝威的两个孤子前来甘肃照顾。那年张夫人已65岁，左宗棠认为她来后不能伺候他，反而要他照料，对两个幼孙跋涉远来，更以为不可。张夫人于年底到兰州，宗棠正在肃州行营，次年正月，张夫人与孝同来到肃州，总算夫妻儿孙团聚了几个月。而宗棠于四月又离肃州去哈密，张夫人和孝同遂回兰州，不久又回长沙了。
左宗棠自己说：“我以望七之年驰驱王事，自浙闽移督陕甘，无数月安坐衙斋者。时事纷纭，哪能顾及家里！”他青年时为衣食奔波，中年以至老年，则为国事奔波，没有能享受到家庭生活的幸福。
福克久居上海，他对清朝官吏的生活是很了解的，从大员到地方府县，无不奢侈淫靡，姬妾满堂，侍婢林立。他和左宗棠在营中同吃同住几个月，看到他生活如此俭朴，不由得衷心钦佩，以至于赞誉为“古今罕见，中外均无人能及”！
哈密是新疆的热点，与吐鲁番齐名。左宗棠到哈密正值最炎热的时候，沙漠热浪袭来，外地人简直受不住。宗棠本来有病，受了酷热，左胁左腿牵引作痛，医生给他服大黄数剂，加以芒硝，这是中医的清泻凉药；又服滋阴补气的药，才慢慢复原。他不顾旅途辛劳，疾病缠身，每天工作总要达十几小时以上。
哈密经过战乱，城市几成一片废墟，人民生活极端困苦。左宗棠来到后，经过几个月的整顿，给郊区人民发放耕牛，从事耕种；修好各处道路，使贸易畅通，并日夜派出官兵清查盗贼，市面很快就恢复。由凤凰台大营穿过新城，直达旧城西北角，约四里长的大道，商店房屋鳞次栉比，出售百货食物，一路上热闹喧阗，本地人认为是从来未有的盛况，外人来游历的也赞叹不已。
为了纪念收复新疆死难的将士，刘锦棠在乌鲁木齐建立了一座昭忠祠，他请左宗棠写了一副对联：
日暮乡关何处是？ 古来征战几人回？！
联语是集的两句唐诗，上联是崔颢题《黄鹤楼》末联的首句，下联是王翰《凉州词》的末句。虽然是集句，却信手拈来，浑然天成，将沙场战士忠心报国却又思念家乡、亲人的悲壮、凄凉的情景，描写得淋漓尽致，气象万千；也反映了左宗棠此时的心情，头白临边，日暮途长，伊犁尚未收复，曾纪泽正在俄京交涉，前途未卜，他亦何尝有生还的希望？