回到湖南后，左宗棠仍然隐居到白水洞。当时湖南巡抚骆秉章听说左宗棠返乡，非常兴奋，马上备下厚礼，亲自写下书信，派人去请左宗棠，如是再三，其意甚恭，然而都被左宗棠回绝了。左宗棠此时刚刚离开张亮基，太平军又风头正锐，清军累战不利，胜负难料，所以他决意退隐，因此就算骆秉章真心相邀，也没能将他再请出山来。

骆秉章知道江忠源与左宗棠两人守长沙时交情不错，合作默契，便让江忠源去请。江忠源也是比较了解左宗棠的脾气的，他知道如果骆秉章都请不动左宗棠，自己也是无能为力的。加之军务繁忙，他就给郭嵩焘写了封信，让郭嵩焘来劝左宗棠。信中有一句“非为忠源而来，为天下而来也”。但即便是搬出了天下百姓，左宗棠也没有应允，只在自己的洞府中避乱。再往后，胡林翼、曾国藩都曾多次相请，左宗棠一概不应。

然而，后来的事情却不似左宗棠预想的那么简单。本来左宗棠是想要隐居山林，不问世事的，但是后来太平军连连取胜，湖南的大部分已经被太平军掌控，此时又传出风头说，左宗棠当年助张亮基守长沙的事，已经给太平军知道了，他们发下通缉令，要拿左宗棠寻仇。左宗棠闻知消息后十分吃惊，这可不是闹着玩的，一旦太平军真的进山搜捕，把他一家老小都带走，那可就是真的叫天不应，叫地不灵了。因为据史料记载，当时太平军对于俘虏的态度很强硬，在攻占武昌时候，对投降、俘获的官军，他们都一律处死，只留下了少许几个开门迎降的官员当向导。并且太平军在攻克城池之后都要打开监狱，释放囚徒，很多地痞流氓也被放出来，他们头裹红巾，混在太平军队伍里胡作非为，为害一方。因此，在左宗棠看来，现在自己的处境是万分危险的。

没过多久，消息传来，江忠源守卫庐州，死战不退，举剑自刎未遂，投水而死。左宗棠听到这个消息后很是震惊，因为江忠源不是一般的大清愚忠，这个人虽说**不羁，但很是仗义，也有忧国之心。对于那些为富不仁之徒，江忠源深为痛恨，认为是他们将贫苦的农民逼上了造反之路。在守备长沙的时候，江、左二人也通力合作，关系很是不错。这个时候看到好友身死军旅，让左宗棠在痛心之余又多了些愤怒。于是左宗棠先安排家眷迁到安化县内的辰山藏起来，自己去拜见骆秉章。左宗棠这次投靠骆秉章，也是时局所迫，而这次在骆秉章府上一待，就是六年。

初到长沙，左宗棠就遇到了影响未来中国五十年的大人物，当时助守长沙的曾国藩。曾氏比左宗棠年长一岁，道光十八年中了进士，为人做官都信奉“隐忍”之术，十年之间升迁了七次，官运还是相当畅通的。咸丰二年曾国藩因为给母亲守丧，返归故里，正逢太平军举事，就应朝廷号召，组建了“湘军”，来长沙助守。

此时太平军已经攻下了靖港、湘潭两地，引为掎角之势，随时准备合围长沙。当时曾国藩的湘军刚刚组建，很多官员都对这支以书生、农民为主体的“非政府武装”嗤之以鼻，曾国藩自己也是书生气十足，没有任何实战经验。

在与众人商讨作战计划时，曾国藩问道：“靖港与湘潭，咱先攻哪一个？”

此时湘军陆军主力尚在外征战，于是多数人建议曾国藩取水路破靖港。左宗棠却说道：“湘潭是长沙的后路，先取湘潭，进可攻，退可守，即使长沙不保，也可以退守衡阳；而假如我们出兵靖港，一旦敌军前后夹击，恐怕就首尾不顾了。”

曾国藩还未拿定主意，著名湘军将领、后来被称做“中兴四名臣”之一的彭玉麟支持了左宗棠的意见，于是曾国藩决定攻打湘潭。就在曾国藩尽遣主力前赴湘潭之时，又有当地乡绅向他建议取靖港，曾国藩也得到情报说靖港守军很少，要破不难。于是他又亲自率领战船，试图袭取靖港。

说来有趣，曾家世代读书，忠君报国之志深入骨髓，出征之前，曾国藩甚至偷偷写好了遗书。不想这封遗书让他的幕宾李元度和陈世杰看见了，这两人怕曾国藩出事，想要随军同行，看到曾国藩不答应，就让另一个幕宾章寿麟躲在曾国藩座船的后舱里，暗中保护曾国藩。后来的战局和左宗棠的预料差不多，曾国藩一到靖港就遭到了伏击，而他自己统领的战船损失殆尽。看到这一幕，曾国藩决意投河自杀，以示其忠。章寿麟见状立刻冲出来救人，并谎称“湘潭报捷”。曾国藩听了这样的话，心中转喜，就同章寿麟上了岸。上岸之后，曾国藩再细细一问，才知道自己给骗了，心中十分苦闷，继而又写下一封遗书。他四月二日败于靖港，就拟于四月四日自杀，中间还得安排、交接些许军中事务。巧的是四月三日夜间，果真传来湘潭捷报，一战击破太平军数万人。曾国藩又听了左宗棠“事尚可为”的劝解，自杀的念头方才作罢。

假如这里不是左宗棠点出先取湘潭，湘潭大捷恐怕就遥遥无期，曾国藩也说不准会自杀身亡，而他苦心组建的湘军也会随之瓦解。曾国藩一死，也就很难有后来的湘系、淮系，李鸿章也很难出头，那么中国随后这近半个世纪的历史，恐怕又会改写了。

湘潭大捷传到天子那里，咸丰皇帝龙颜大悦，对湘军重加褒奖，并给了曾国藩统调湖南文武官员的大权，这就从根本上改变了曾国藩及其麾下湘军的地位。而靖港惨败，也在当时成了湘军机密，直到后来章寿麟作《铜官感旧图》，人们才知道了曾国藩的“投河”趣闻。

实际上，最初左宗棠到骆秉章帐下的时候，还没有得到他完全的信任，直到一年多后，骆秉章才真正将大权全部交给了左宗棠。左宗棠在写给郭嵩焘的信中也这样说道：“自居湘幕，骆文忠初犹未能尽信。”再往后，骆秉章对于左宗棠的信任达到了娇宠放任的地步，无论大小事务，只要左宗棠决定了，他就可以不过问。左宗棠批示的公文行书，拿去给他过目，他也不再查看。下属因为一些事情找到他的时候，他就说：“去问左宗棠，他说可以就可以，他说不行就不行。”而左宗棠也是权高人胆大，什么事交到他手里他都敢干。由于自视才高，左宗棠在给别人的书信、文章里，最后的署字都不签自己的名字，而是“亮白”，俨然把自己当成了“孔明再世”，可见，在骆秉章的宠信下，他完完全全是一把手的架势。

有一天，巡抚辕门放炮，骆秉章惊问何故。左右告诉他说，是左师爷发军报拜折。按规矩，向天子发重大奏折，是要鸣炮的，而这一仪式是需要巡抚来主持的。这类越俎代庖之事，在旁人眼里是大不敬的，但是对于左宗棠来说，却是稀松平常。这还不算，按照《清朝逸史》中的一个例子记载，骆秉章甚至连任命官员的职权都被左师爷剥夺了。文中说，骆秉章有一个小妾，两人很是亲密，有一天这个小妾跟骆秉章说想要给自己的兄弟谋个差事。骆秉章听后，面有难色地说：“这事是左师爷管呢，我不好向他开口。”可是那个小妾软磨硬泡，怎么说都不愿意。骆秉章只好说：“那就等哪天左师爷心情好了再说吧。”果然，见有一天左宗棠心情不错，骆秉章就趁机对他说：“咱这里有个小伙子，来了很久了，你看能不能把他安排一下。”见左宗棠没有搭理，他就只好又说：“实不相瞒，这是我的内弟，我也看过了，这个人很有点才华，为人小心谨慎，我考虑过，长沙城大大小小的官员当中，靠关系走上来的也不少，我也就不避嫌了，想给他也安排个差事。”左宗棠微微一笑，并没有直接回答他，而是说：“我今天高兴，咱们喝几杯吧。”骆秉章命人上酒，左宗棠连饮三杯之后，突然起身告辞，准备回家种地。骆秉章见状大惊，连忙拦住，左宗棠对他说：“君子绝交，不出恶声，咱就不用多说了。”骆秉章知道自己刚才说错了话，连忙说：“我内弟的事就放下吧，我对你是倾心相任，从善如流，天人共鉴，千万不要为了一时误会甩手而去，以后这样的事，我不向你提就是了。”左宗棠这才作罢。因此有人就讥讽说“湖南是幕友当权，捐班用命。”这是因为左宗棠有过花钱买秀才的历史。还有人称左宗棠为“左都御史”，“都御史”主要的职责是劾举官员，这是对左宗棠性格憨直偏激的戏言。

不久，入湘的太平军由于损失较大而由攻转守，当湘军攻破岳州的时候，太平军从湖南撤军，左宗棠也和曾国藩一同密谋出省作战，这期间，两人真是无一日不见面，无一事不相商。最后，曾国藩率部奔袭湖北，左宗棠就在湖南为他筹措粮饷，补给军用。因为对于地方团练而言，军士自招，将领自选，花费也是自负。曾国藩当时办团练，靠的就是当地富豪财团的资助以及他自己的人脉关系。这时湘军在朝中有了名气，且越办越大，花费也是相当大的。朝廷曾有意让地方政府给湘军输饷，但到最后这却成了一纸空文，曾国藩在江西和太平军作战的时候，连续两任的巡抚陈启迈、文俊都只把湘军当成额外负担，处处刁难，不肯输饷。好在左宗棠在湖南也是吐口唾沫砸个坑的人物，曾国藩缺钱，左宗棠就在后方提供支持。曾国藩取得湘淮大捷之后，引起了太平天的重视，能征善战的翼王石达开奉命御敌。两军在号称“七省通衢、三江门户”的湖口展开了激战，最后的结果是太平军烧毁了曾国藩的几乎全部战船，湘军陆战主将塔齐布呕血身亡，湘军损失惨重，再加上部分地方势力的排挤打压，令曾国藩焦头烂额。

万幸的是，这个时候石达开被调去进攻江南大营，曾国藩得到了喘息的机会。左宗棠也在这个时候于湖南组建了一支五千人的军队去江西援助曾国藩，并安排粮饷送抵江西。在左宗棠的帮助下，湘军才得以续命扬威。对此，曾国藩满怀感激，又为左宗棠在皇帝那里请了一个“兵部郎中”的官衔，并赏戴花翎。一般是要五品以上的武官和巡抚提督一类的大员才有资格佩戴花翎，朝廷给个花翎，无疑显示出了对左宗棠的肯定。这样，左宗棠在朝中的名声也渐渐地传开了。