到南京——陶、林二公的继承者
光绪七年（1881年）十二月三十日（除夕），左宗棠抵达南京，随即接任两江总督，受印视事。
南京在清代又称江宁，一名金陵、白下，或石头城，背山面水，龙盘虎踞，形势万千，是中国七大名都之一，兵家必争之地，也是七朝金粉繁盛之乡。两江总督管辖江、皖、赣三省，是中国最富庶的地方，又据长江下游入海要冲，无论在政治、经济和军事上，都十分重要。因此两江总督在地方大员中，地位最为显赫。
左宗棠住进总督府后，随即想起了两位他所崇仰的前任：一位是陶澍，一位是林则徐。43年前（道光十八年）他去京师会试落第后，曾应邀绕道南京进谒陶澍，在总督府盘桓数日，二人订了深交。那次是来做客，这次旧地重游，却是入主督府了。陶、林二公在他微时就对他寄予深厚的期望。他接任两江总督，虽然已隔了好几十年，但他决心做二公的继承人，履行二公未竟的遗志。
陶、林二公在江南任内的重点施政，一是水利，二是盐务；另外，江苏滨海，海岸线长达千余里，海防极为重要。左宗棠到任后，首先也是抓这三项任务。他说：“两江时务之要，无过海防、盐务两端；而水利，尤民命攸关。三吴之富强贫寡，全在乎此。”列强侵略中国，海防首当其冲，而水利和盐务则是与人民利益攸关的事业。
他到南京时正逢过年，刚过完元宵节，他就急不可耐地去巡视境内各地的兵力，还要去勘察以水害著称的淮河和运河的水利形势。光绪八年正月十六日，他率随从出省城阅兵，二月初一日到扬州，初二日道经高邮，视察南运河工程，初五日到清江浦，一方面调阅江北各营，一方面巡视运河堤工和淮河形势，随后沿中运河，历顺清河、张福口、运口等处，视察礼河正坝。到正月二十五日回到南京。通过亲自勘探研究，他对淮河水害有了一定的了解，定出了兴修水利的方案。
淮河本来有自己入海的大道，自金、元以来，黄河南移，夺去了淮河故道，后来黄河又改道北徙，淮河故道被黄河夹带的泥沙淤塞，河床升高，泄水不畅，而地形北高于南，淮水如非盛涨，就不能遵循故道入海，因而改道由洪泽湖向南辗转流入长江，淮河也就成了容易泛滥、多灾多难的河流。左宗棠沿黄河故道勘察到云梯关，又由大通口到响水口，查勘引黄河入海道路。他提出一项雄心勃勃的治淮规划：先将入海口段淤泥挖开一条深水道，引淮水流经云梯关一带，独行入海，责成兵夫分段挑浚两旁淤地。这项工程十分浩大，他认为“事在人为，不惜费，不惜劳，天下无不办之事”。
但他也认为这项工程应逐步实行，不可求速。当前农事更为急迫，应保证农民有一个好收成，因此首先兴修运河东西两岸堤工，疏浚下河各州县支河，既免于泛滥，又便利灌溉和运输。在他两年多的任期内，举办了几件重要的水利工程：
一是打通朱家山工程。过去每当汛期，安徽滁州、来安、全椒的山水由三面下注，加上定远、合肥的水，汇入三汊河绕经六合两百余里，始流入长江。每值淫雨水涨，因为河流纡缓，不能及时泄水，因而泛滥成灾。滁州、来安、全椒、江浦和六合的圩田数十万顷全被淹没。如果打通朱家山，引滁河水经由浦口宣化桥入口，水患可大大减少。这个方案在乾隆、嘉庆时就屡次有人提出，但是因工大费繁，始终没有实行。左宗棠下了决心，调集湘淮军30营，刻日兴工。他历来兴修水利，都是采取“借兵勇以代民力”的做法，目的是“不资民力，且能代民劳，而民享其逸”。
朱家山工程自浦口起至张家堡接通滁河，绵亘20余里。为了打通河道，朱家山中段石脊须挖深20余丈。左宗棠亲往探视，见“石根内幡，坚凝如铁，连成一片……最难措手”。正好王德榜从直隶调到。王德榜兴修水利有经验，在甘肃狄道州曾挖过山、开过河，宗棠命他率部队相助，采用爆破法，凿石穿孔，埋入火药，层层爆炸，光绪十年二月终于开通了朱家山河。这项工程的完成，不仅沿江圩田平时受利，遇山洪暴发，也可避免过去人畜庐舍漂没之惨。船只可由内河航行，不必经历大江风涛，对农、商都有益。
另一项工程是修治赤山湖。湖在句容境内，汇集茅山诸水流，经溧水、上元、江宁流入秦淮河。湖底因多年淤积升高。湖堤也坍坏，旱时干涸，汛期又漫溢湖周农田。左宗棠命兵勇在湖南岸加筑圩堤，长20余里，堤上遍植桑秧保护堤岸。又在下游修建桥闸；秦淮河流经南京通济门和金川门，进入长江，在这两处修建石闸坝，以收纳附郭诸水。濒江圩堤沟道也都次第加以修治。
还有一项工程是修治范堤和潮墩。淮南通泰场范堤原是北宋范文正公仲淹所议建。自盐城北接阜宁，南抵海门，亘六百余里。堤下聚居了许多“盐民”，俗称“灶户”，他们在此设灶熬盐以谋生。堤外修建了许多潮墩，是灶户避风潮之处，因为年久失修，潮墩多已损毁。前一年飓风大作，海潮澎湃而至，席卷漂没庐舍千数百所，淹毙民户不可胜计。左宗棠亲往堤边视察，与盐运使商量，先集资修筑潮墩，以保护盐民安全，然后再修筑范堤。是年七月，通泰场潮墩修成96座，次年（光绪九年）五月，范堤也筑成。
江苏沿海盛产盐，苏淮盐务影响国家收入、广大盐民和盐商贩的利益，受到历任地方官的重视。左宗棠竭力推行陶澍试行过的票盐制，以往贩盐只由少数盐商垄断，票盐制则准许任何人贩盐，只要按规定领取盐票，付出一定盐价买盐，缴纳税款，就可以到各地销售。一票盐按时值计一二千两银。推行盐票是使自由贸易取代封建垄断，既增加了国税，又便利了民商。左宗棠同意魏源、包世臣的主张：农业重要，商业也重要，有时候商业更为重要。
扬州是盐商会集之地，自古繁华属东南之冠，又是南北通衢要道。左宗棠年轻时赴京会试南归时经过扬州，在邗江小面馆里吃了一碗鸡汤面，当时是穷书生，正饥肠辘辘，觉得味道美妙无比，以后常常想起扬州鸡汤面，和家人朋友谈起来，还津津有味。40年后他为视察苏淮水利和防务，数度经过扬州，他倒不曾为瘦西湖和二十四桥的美景所打动，却回忆起年轻时吃过的那碗扬州鸡汤面。这年他到瓜州阅兵，特命犒赏所有将士每人鸡汤面二碗，由自己掏腰包，不要公家花钱。他对将士们说：“古来名将都与士卒同甘共苦，你们都多年跟随我南征北战，备尝艰苦。我享受了美味，怎敢不和你们共同分享呢？”将士们吃了美味的鸡汤面，虽然是件小事，心里却很悦服。从此邗江鸡汤面出了名，经过该地的人都要尝一尝，因此利市三倍。
他在南京除了办水利、盐务外，还重视其他能使国强民富的洋务，如电讯、铁路、矿山等。他看到上海有许多洋商银行，就主张创办本国的银行，以抵制洋人操纵中国的金融。西方列强为了扩张侵略势力，还想染指中国的电讯和铁路事业，他们提出用外资在长江铺设一条水下电缆，直达汉口。左宗棠认为铺设宁汉电缆是很有利的事，但是不同意由外人铺设，利权不能外溢。他立即建议清廷，由中国自行建设陆上线路，经费由本国商人自筹。这条从南京南岸到汉口的电报干线，全长1600里左右，于光绪十年（1884年）竣工。
左宗棠积极鼓励和支持民办企业，光绪八年有一位候选知府胡恩燮在徐州创办了利国驿煤铁矿，用机器开采，不请“官本”，全部由商集股办理。创办初期，投资大，收益少。左宗棠就上奏代为请求减免税款，以保护民办企业，“维持商本，而塞漏卮”，以便和外国产品竞争。他还看到沿海地区洋油（煤油）倾销，就下令两江各府州县广植乌桕树，取乌桕子可榨油，以代替洋油供民间照明之用，抵制洋油的倾销。
这几年左宗棠虽然年龄更大了，身体更差了，但仍经常到各地视察。光绪九年他到高邮、邵伯、泰州、泰兴一带视察河工，沿途百姓陈列香案迎送，一是感谢筑堤修堤，上一年因而获得了丰收；一是感谢减免了厘金，老百姓得到实惠。老百姓都说：“几十年来从没有见到制台到我们这儿来过。”左宗棠对百姓热烈欢迎的情形很受感动，又觉受之有愧。他后来写信告知儿子说：“好官可做，好官之名亦实不易副。”古人云：“盛名之下，其实难副。”封建时代，也有少数官吏想为人民做点好事，但是困难重重，阻力很大，宗棠深有体会，他自觉为老百姓做的好事是太不够了。
光绪九年（1883年）正月，他在南京为陶澍和林则徐建立了陶、林二公祠，合祀二位先行者，他写了一副对联：
三吴颂遗爱，鲸浪初平，治水行盐，如公皆不朽； 卅载接音尘，鸿泥偶踏，湘间邗上，今我复重来。
左宗棠慨然以陶、林二公的继承者自居，他不仅继承了二公办水利、农业、盐政、漕运等事业，还继承了中华民族大无畏的爱国主义精神，没有辜负陶、林二公的知遇之恩。