“问鼎”一事过去没多久，杭州告急。当时杭州城内的巡抚叫王有龄，是红顶商人胡雪岩的好友。当下太平军在李秀成的率领下兵临杭州城下，王有龄自知不能守，便赶紧发文书给曾国藩求救。曾国藩接到告急文书之后，并不十分热心。因为江浙地区有两大势力，一个是曾国藩，另一个就是两江总督何桂清，两大势力明争暗斗，彼此倾轧。王有龄是属何系，早先就以曾国藩属私人军为由，不给湘军提供粮饷，而且后来湘军将领李元度因守卫失职畏罪脱离曾国藩，临走前卷走大量财物，被曾国藩上书弹劾并派人缉拿，也是王有龄大胆收留了李元度。这一切使得两人的关系很不友好，曾国藩也是想借太平军之手除掉王有龄。于是，在曾国藩的指示下，左宗棠在浙赣边境徘徊不前，咸丰十一年（1861年）十二月十二日，王有龄自杀身亡，杭州城破，曾国藩这才命令左宗棠火速赶到杭州，督办杭州军务，并顺带奏请朝廷，由左宗棠出任浙江巡抚一职。

同治元年（1862年）一月底，左宗棠率兵9000人，进攻浙江。这一次的对手，还是侍王李世贤。早在乐平一战，李世贤就吃到过左宗棠的苦头，这一次依然是心有余悸。主将心怯，战事自然倒向清军一边，一开始，左宗棠就打了几个胜仗。按照惯例，左宗棠打一步蹲个点，稳扎稳打，步步为营，因为仅从军队数量来看，双方实力悬殊，楚军不足一万，而李世贤在浙江拥兵十余万，一不小心，就会被合围生吃。

当年三月初，楚军攻遂安县城，左宗棠以偏师佯攻附近羊村，以牵动城内太平军，又令部将陶鸿勋、丁长胜从城后袭击，黄少春、朱明亮在一旁接应。这一招诱敌深入、三面出击的战略使得太平军遭遇三方夹击，溃不成军，于是遂安告破。

打破遂安之后，左宗棠又率领部队进攻江山，在清湖大败李世贤，差一点将其活捉。此后，两军又在石门、花园展开了激战，太平军节节败走，退守金华。五月，楚军再破浙西重镇衢州，李世贤弃城撤走。

虽然得了衢州，李世贤却趁机再度攻克了先前被清军攻克的遂安。左宗棠在遂安原本是留有驻军的，但是这样一来，他也深深地感觉到自己兵力不足，很难与动辄十几万的太平军相抗，而且在江浙一带来回往返，几经折腾，将士叫苦不迭。然而另一边，坐在朝堂之上的慈禧太后才不会管这些将士的辛苦，一个劲儿地催促左宗棠“克复杭州”。

这个时候，一个美国人出现了，他的名字叫华尔。早在咸丰十年（1860年）六月，华尔就经由苏松太道吴煦出面、上海富商杨坊出资，组织了一个百余人的洋枪队。后几经整改扩充，到了同治元年（1862年），已经发展到了五千人，清廷下旨授予华尔参将的身份，华尔故将其部众命名为“常胜军”，归湘军的另一个重要人物、江苏巡抚李鸿章节制。而此时听到左宗棠在江浙一带和李世贤对峙，李鸿章便将常胜军调去宁波助战。

久居深宫的慈禧等人对于这支玩洋枪洋炮的队伍很是好奇，自家的鸟铳打人也不疼，自家的兵将冲锋也不猛，于是就算这支军队索要高出绿营军几倍的报酬，这些执政者也不会皱眉头。而作为一个冒险家，华尔此行就是为了历险而来的，就像各国的传奇历险小说中写的那样，主人公乘风破浪，来到一个陌生的国度。恰巧这个国家遇到了暴乱，国王遭遇险境，他凭一己之力帮助国王重新回到王位，然后获得了大量的赏赐。因此，华尔认为自己收取高额的报酬是理所当然的，就像历险小说中的英雄们一样。除此之外，他还会指使部下劫掠村镇，缴获“战利品”。

左宗棠对于这批外来的雇佣军没有什么好感，他认为，这些人吆吆喝喝地朝太平军开几炮，就得到了大量的报酬，而与此对应的是国内连年征战，极度缺饷，大清朝国库亏空。相反，自己的楚军出生入死，粮草自备，并且都是私人武装，华尔的“常胜军”只不过有件好看的外衣而已。因此，在这样的情况下，双方的合作还是不怎么舒坦的。再后来，常胜军在宁波打击太平军，顺道勒索宁绍台道史致谔未遂，便向朝廷上告。史致谔是左宗棠推荐保举的，而且又在左宗棠的属地，于是左宗棠决定上奏。

左宗棠上折说道：“虽借外国兵力暂保孤城，然主弱客强，终非长久之计。”继而他又说洋枪队耗费太多钱粮，却未见成果，这些人屡屡横行街市，久为百姓所诟病。实际上，反反复复都在重复一个意思，就是国家应该防这些人“生变”，而且自己也不愿再和这帮洋鬼子合作了。

朝中大臣对于左宗棠的这个折子是比较赞同的，尤其是李鸿章。他认为上海的那些官僚已经将洋人宠得不像话了，于是便去请教老师曾国藩。

曾国藩是孔孟出身，一直幻想着能够用儒学教化世人，于是他给李鸿章的建议是“忠信笃敬”四个字。意思就是要李鸿章暂时“抚而用之”，用儒学感化洋人。李鸿章也觉得，这个时候和太平军正打到关键的时刻，不能搞自我削弱，也就倒向了洋人一边。得不到曾、李二人的支持，左宗棠也没有办法，只能按照朝廷的意思，借师助剿。当然，左宗棠始终约束着这些洋人官兵，随时都准备解散他们，而这些人知道巡抚大人对自己没有好感，也都学得比较乖顺。

典型的例子就是整治由左宗棠主持操办的“常捷军”统帅德克碑。在政府的压力之下，1862年7月，左宗棠与驻宁波的法国舰队司令勒伯勒东、宁波海关税务司法国人日意格等人达成协议，购置洋枪洋炮，组建了“常捷军”。士兵由中国人担当，将领多为洋人。第一任统帅勒伯勒东不久被太平军打死，之后德克碑继任了这一职位。

同治二年正月，清军攻克绍兴，入城之后德克碑放纵士兵劫掠百姓，还对入城的清军进行搜身。此外，德克碑还向地方政府索要十一万两银子作为报酬，并且试图扩充编制，再征千余士兵。左宗棠听到消息，立即上折请求趁现在清军屡战屡胜、兵锋正锐的时候遣散常捷军。而慈禧只求早日平定太平逆党，天下承平，认为洋人稍稍放肆一点也无伤大雅。

左宗棠不依，便上告到了总理衙门，总理衙门和法国驻华公使交涉之后，法国人准备派实德棱替换德克碑。左宗棠早听说实德棱比这个德克碑名声还烂，便再一次上奏，请求遣散常捷军。但是这次折子递上去后便杳无音信。

很快，德克碑也知道了左宗棠在对自己“下猛药”，便赶紧来军门拜见巡抚大人。左宗棠当下就对他说：“中国现在不需要借助外力平叛，你如果想要留任，就必须服从节制，不许节外生枝，不许增兵。”此外，德克碑来到中国以后，依然留着一把大胡子，左宗棠便告知他说，作为中国兵的统带，应当注意自己的仪容。于是第二天，德克碑就乖乖地把自己的胡子剃掉了。再往后，左宗棠开办福州船政局、入陕镇压回民起义时，德克碑都追随过他，为其效力。由此可见，牛脾气的左宗棠在整治行为乖张的洋人时，也是很有办法的。1863年，李鸿章伙同常胜军攻打苏州，此时华尔已经毙命，常胜军统帅戈登告诉李鸿章说，自己的奸细已经知道了守城主将、太平军慕王谭绍光与部下八个将领的关系不好，这八人也有投降的意思，建议李鸿章从这里突破。于是在清军的引诱下，太平军叛将郜永宽、汪安钧等人刺杀了谭绍光，开门请降。随后，由于这些人索要高官厚禄，李鸿章对此十分不满，便索性将八个降将统统杀死。没有料到，戈登知道消息后立马跟李鸿章翻脸，甚至告到了驻华公使那里，一定要扳倒李鸿章。李鸿章焦头烂额，经过多方调解才勉强度过了危机。