楚军东征——咸丰薨——胡林翼死
楚军成立后，集中在长沙城南金盆岭，进行战前短期训练，它共设四营和四总哨，每营500人，每总哨320人，总共3280人，由各县招募来。左宗棠招请了崔大光、罗近秋、黄少春等旧将弁，担任营、哨军官，选人的标准以勇敢朴实为主。选精锐200人为亲兵，分成八队。楚军总共5000余人，由王錱堂弟开化（字梅村）总全军营务，刘典（字克庵）和杨昌濬（字石泉）为副手。王錱旧部老湘军1400人也收入楚军，由王錱弟王开琳任统领。
左宗棠原是奉命去长江下游，帮办曾国藩军务。出发前，因石达开率部将由贵州入川，朝廷意思是让他改去四川督办军务，遭到曾国藩和胡林翼的反对。左宗棠自己也不愿去川，而愿入吴。他们都认为如左宗棠去川，形势孤单，不易成功，三人联合更有利。曾国藩和胡林翼就以江皖战事紧急，上疏请留左宗棠援安徽。
不久广德、宁国都被太平军攻占，清廷接受了胡、曾的意见。左宗棠遂率楚军于八月从长沙出发，经醴陵进入江西，原想去祁门与曾国藩军会合。半路上听到太平军已占领徽州，于是左宗棠率部队由南昌经过乐平，进驻江西东北门户景德镇。到景德镇不久，正有一支太平军别部由广东进入赣南，准备进占景德镇。左宗棠派王开琳的老湘营击退了它。这支别部就逃往景德镇东南的德兴，拟与据守该处的太平军会合，左宗棠派王开化、杨昌濬率部队在半路截击，王开琳的老湘营又从后追来，太平军出其不意，大败而逃，楚军乘胜收复了德兴，又昼夜追赶，两天后收复了婺源，太平军逃往浙江。楚军出师首战告捷，收复两要地，在江西站稳了脚跟。这也是左宗棠的第一次实战。
太平王朝自咸丰六年（1856年）内讧，石达开出走，形势一度陷入危急。后来由李秀成、陈玉成等重组核心，于咸丰八年八月在浦口击破江北大营，歼清军万余人，咸丰十年三月又击破江南大营，歼敌数万人，清军主帅和春自杀。太平军重振了威势，连克苏州、常州，进入浙江，攻陷嘉兴。清朝廷看到形势不妙，只有倚靠湘军，于是实授曾国藩为两江总督，并任钦差大臣，掌握江南江北军政大权。
曾国荃画像
曾国藩的大本营在祁门，他的第一个目标是夺取安庆。安庆是天京西南的重要门户，据长江中游，扼鄂、豫、苏、浙、赣五省咽喉。他和曾国荃、胡林翼的部队包围了安庆。太平军为了解安庆之围，派出南北二路军再次西征，以转移清军兵力，目标是会师武昌。北路由英王陈玉成、南路由侍王李世贤分别率领。十一月各路军包围了祁门，只剩西南通往景德镇的一条路，全靠左宗棠为后援接济。左宗棠军攻克婺源后，准备进攻徽州，因为太平军定南主将（后升堵王）黄文金率领数万部队攻击建德，一连攻克了彭泽、昌都、鄱阳等县，声势很大。于是左宗棠命收兵回守景德镇、婺源、浮梁，黄文金率五万人来攻，左宗棠守军只有五千人，他定了一个小小的计策，命黄少春部队从后面绕击，以少胜多，将黄文金击退。
太平军准备再度大举进攻，曾国藩急忙调鲍超部队来增援。鲍超是有名的勇将，左宗棠则有谋略，二人定下一条计策，由鲍军正面出击，楚军守屯，另外派一支军埋伏在后路。咸丰十一年正月，黄文金又来进攻，不幸中了圈套，大败而走。楚军和鲍军收复了建德，祁门于是解了围。
曾国藩对左宗棠初战告捷，十分欢喜。他在楚军收复德兴、婺源二城后，上奏为左宗棠请赏，得旨由四品京堂升为三品京堂候补，仍只能算是一个小官。祁门解围后，他又上奏为左、鲍表功：“臣在祁门，三面皆贼，仅留景德镇一线之路以通接济，该逆欲得甘心，赖左宗棠之谋、鲍超之勇，以守则固，以战则胜，乃得大挫凶锋，化险为夷。”清朝廷下诏嘉勉。
咸丰十一年二月，侍王李世贤的部队又进入江西，声势浩大，攻破了婺源，侵入平乐、鄱阳，进窥浮梁、景德镇。眼看楚军将被包围。左宗棠派王开琳和罗近秋去邀击敌军，不料王开琳中了埋伏，败逃回来，部将陈明南战死。李世贤军队突然从小路偷袭景德镇，那时景德镇已由曾国藩命建德屯将陈大富驻守，陈大富抵挡不住，投水而死，景德镇迅即被太平军攻克，清军吃了一次败仗，左宗棠于是率楚军退守乐平。
三月，太平军和楚军在乐平进行了一场大战。李世贤的前队被击退后，派出三路大军进攻。楚军兵少，左宗棠命令坚壁不出，太平军没有攻下，等到日中，太平军松懈下来了，楚军看到时机已至，突出反击，太平军被击退二十里。
几天以后，李世贤将大军都调到乐平，决心要把它攻下。乐平是个小城，城墙已坍坏，左宗棠下令营兵们沿城墙筑一道壕堑，从城东南的小河里引水注入城外堰内，使敌骑难以前进。三月十三日李世贤大军兵临城下，号称十余万，将乐平围困数十重。楚军困守在壕内，只有五千人。太平军几次扑壕，楚军寂然不动，等到太平军临近时再予还击，太平军没有得手，一直相持到深夜。
第二天中午，李世贤决定将主攻方向由东北转到城西，加紧进攻，守壕楚军死伤很大，眼看要支持不住了。左宗棠于是果断地下令反击，由王开化率队出西路，王开琳出东路，他自己与刘典出中路，听鼓声起，三路同时跳出壕堑，与太平军短兵相接。太平军毫无预料，在楚军横冲直撞之下，纷纷败退。那天正值大风大雨，河水骤涨，人马溺死的很多。这次战役，李世贤军损失五千余人，他自己也只身逃走。与此同时，曾国藩军在徽州却打了败仗，溃退到休宁。由于楚军的胜利，祁门后路肃清，曾国藩才得以后顾无忧，于是移驻东流。楚军出师不及一年，取得这次大捷，更加巩固了在江西作战的地位，也加强了清军在江、皖的作战力量。
李世贤在乐平军败后，率大队进入浙江，接连攻下龙游、汤溪、金华、遂昌、义乌、处州、严州等城，失之桑榆，收之东隅，浙西南几乎全部为太平军占领。清朝廷看到浙江地方部队不中用，就命左宗棠率楚军入浙支援，并且诏授他太常寺卿，封他一个挂虚名的官。但是曾国藩因为皖南还不巩固，奏请暂时仍留左宗棠守住婺源，以保住江、皖不稳定的形势。楚军因此仍留驻在景德镇一带。
这年六月，左宗棠和刘典一同来到新收复的婺源。婺源是一座小城，地处皖、赣、浙交界，因为是南宋大儒朱熹故里，倒很有名，素称文献之邦。城在万山之中，人民无隔宿之粮，全靠从外地水运粮食。商船一日不到，百姓就要挨饿。婺源属徽州，徽郡山多田少，商多农少。徽商虽有钱，但水运时时梗阻，常有手握金珠而饿死的。近八九年因清军与太平军在这里往来作战20余次，地方上损失严重。左宗棠到婺后，看到人物凋残，遗黎皮骨仅存，慨叹不已。他写信告知孝威说：“湖南在东南是一块福地，你们没有经历过战争的残酷，哪能知道人世间有如此苦难，非言语所能尽。因此告知你们一点情况。”
他在婺源结识了任教谕的夏炘（字心伯，号弢甫），夏炘著了一部《述朱质疑》，对朱陆异同，辨析颇精。左宗棠也讲朱子之学，和他很谈得来。夏炘不仅和他讨论学问，又懂兵法，每天到营幕来，常和他谈论些作战机宜，又为他筹办军粮。左宗棠在婺源住了三个月，为百姓吊死扶伤，与婺源人相处很好。临行时，婺源士民送万民伞和旗牌的络绎不绝。后来夏炘还常和他联系。
几个月后。左宗棠军收复遂安，夏炘写信给他说：“钺下以五千士卒，当全浙数百万之敌，来谕谓‘慎以图之，当可无患’。愚以为慎于前攻，亦当慎于后顾。得尺则尺，得寸则寸，乃吾人拳拳弗失之学，用兵何独不然！前此诸帅只知前攻，而所复疆土不转瞬而复失之，百姓之遭蹂躏更甚于未复之时。钺下自乐平、浮梁，而婺、而遂安，前后所得，无复再失，此钺下之师所以超越诸将也。惟愿后此常守弗失。未得之地慎于前攻，不可轻犯贼锋，以堕诡计。已得之地，慎于回顾，不使贼出我后，顿失前功。”
左宗棠认为他说得很对。“得尺则尺，得寸则寸”，不单是学问之道，学到的必须巩固，能为己所用，如随学随忘，则是白学。用兵之道亦然。左宗棠自出师以来，每得一地，必加以巩固，决不轻易放弃。后来西征时也严守这条原则，这是他取胜之道，也是夏炘所说“所以超越诸将”之处。太平军也恰恰在这方面犯了严重的错误，攻城陷地很顺利，但旋即放弃，没有巩固的后方基地，形成流寇主义。这也是他们在军事上失败的重要原因之一。
左宗棠到婺源后，国内发生了几件大事。七月十五日咸丰帝病逝于承德行宫。他是于前一年英法联军进入北京之前，逃往承德的。他死后由年仅六岁的载淳即位，改元同治，慈安、慈禧两宫太后垂帘听政，实际则由同治帝生母慈禧掌权。不久就发生了一次宫廷政变：由于以肃顺为首的八大臣反对太后听政，分别被处死、流放、免职，而由道光帝第六子恭亲王奕当政。因为太平王朝仍然盘踞天京，势力尚未衰退，清朝廷还要利用湘军，所以慈禧对曾国藩和湘军将领仍信勉有加。十月，曾国藩奉诏办理苏、皖、赣、浙四省军务，他的势力进一步扩大到浙江。
八月一日，长期被包围的安庆终于为曾国藩军攻下，这是湘军的一次重大胜利、太平军的重大挫折。太平军西上武汉的通道受阻，曾军解除了后顾之忧，又能抽出包围安庆的军力，增援对天京的进攻。从此，太平军形势日蹙一日，开始走下坡路了。
八月二十六日，胡林翼在武昌病逝。他病危时致信给左宗棠，与他诀别，勉励他和曾国藩继续未竟的事业。左宗棠得信后，急忙派人专程去看望，并送药物给他。使者看到胡林翼“血尽嗽急，肤削骨峙”，显然是患了肺结核或肺癌，这在当时都是不治之症。胡林翼是湘军三领袖之一，足智多谋，富有政治头脑。他的死是湘军集团的重大损失，对左宗棠也是一个重大打击。他在军中，不能前去吊丧，写了一篇情真意挚的祭文，文首谈到与生俱来的两家交情：“詹事文学，读书麓山，两家生子，举酒相欢。”而后谈到在京师初遇：“纵言阔步，气豪万夫，我歌公咢，公步我趋。”他遭官、樊构陷时，是胡林翼同情和帮助他：“我方忧谗，图隐京门，晤公英山，尊酒相温。公悯我遭，俛焉若尽，忧蕴于中，义形于色。”然而，当他们商定大计，取得了初步成功时，“何图我公，积劳成瘵，中兴可期，长城遽坏”。失去了一生真知己，也失去了事业上的一个最忠实的伙伴，他只有长叹涕零。祭文结尾说：
悠悠我思，不宁惟是，交公弱年，哭公暮齿。自公云亡，无与为善，孰拯我穷？孰救我褊？我忧何诉？我喜何告？我苦何怜？我死何吊？追维畴昔，历三十年，一言一笑，愈思愈研……有酒如兹，有泪如丝，尽此一哀，公其鉴兹。
30年的交情萦怀于心，但是逝者已矣，左宗棠似乎从此更觉孤独寂寞了。曾国藩读了祭文，不禁评论说：“祭润帅文，愈读愈妙，哀婉之情，雄深之气，而达以恢弘之气。”他对胡林翼的死也不胜伤感。