左宗棠担任了浙江巡抚后的首要任务就是击退太平军，收复杭州城。左宗棠的士兵都是一帮可用之才，骁勇善战，他深知此时最需要的就是鼓舞士气。但是，这时候他发现朝廷发下来的军饷根本不能解决军用之需，而另一边太平天国的势力逐渐增强，长此以往，士兵的战斗力就会越来越弱，左宗棠需要的正是大量的军资粮饷。

而这时的胡雪岩早就已经看到了左宗棠的这一弱势，于是，自上次献粮之后他又多次因为粮食问题找过左宗棠，并提议对逃亡的军官罚款，并将那些钱用来采购粮食。左宗棠听了之后觉得这个办法确实可行，于是就按照胡雪岩的意思办，虽然起到了一定的作用，但是，依然还是不能满足所需的军资粮饷，左宗棠依然心事重重。胡雪岩这时候主动提出要帮助左宗棠解决粮食问题，并用自己钱庄的钱来采办粮食，资助官府。这令左宗棠出乎意料，当即便留胡雪岩在府中并摆设酒席，以感谢胡雪岩的得力相助。

就这样胡雪岩帮助左宗棠在上海等地购买了大批的粮食，并且杭州城内的百姓也得到了胡雪岩资助给政府的部分粮食，因而杭州城内的百姓也对左宗棠和胡雪岩充满了感激之情。

在粮食问题上，胡雪岩雪中送炭并真真切切地给左宗棠带来了实际的效益，使左宗棠的军队大大地增加了士气，激励了军心，也使太平军不敢大意，因而左宗棠更好地控制了整个局面。

但是太平天国的实力也不容小觑，由于太平军军队庞大，左宗棠依然是寡不敌众，形势也变得岌岌可危。有一次，胡雪岩受左宗棠的邀请一起就餐。席间，左宗棠一直表现出一种低落的状态，胡雪岩不难看出左宗棠低落是因为眼下太平军的猖狂。虽然粮食方面有胡雪岩帮助，一时不成问题，但是毕竟太平军人多，而驻守在江浙一带的政府军队确实寥寥无几。大部分的军队和军资都在淮北李鸿章那里，李鸿章当时因是曾国藩的嫡系，通过曾国藩简办淮军，打了几次胜仗，战功确实不少，名声也好，而且后备充足，曾国藩当时又经常对李鸿章进行援助，而且当时淮北太平天国的实力相对来讲比较薄弱。而左宗棠，手下人才并不多，周围太平军的实力却很强大，而且赣东浙西地带地形复杂，不利于行军打仗，但是朝廷既然这么分配，左宗棠也只有迎敌上前。

胡雪岩对于这些利害关系早已经参悟透彻，于是向左宗棠详细地讲述了一遍，并不断对左宗棠的遭遇感到同情，对左宗棠的英勇感到敬佩。左宗棠在听到这一番话之后，顿时对胡雪岩刮目相看，他一直觉得胡雪岩只是一介商人，心中想的必定都是钱财利益之事，可没想到胡雪岩满腹韬略，对国家大事和时政局势分析得也是那么细致入微。但是左宗棠不免心中又冒出一个想法，胡雪岩可能是在敷衍他，以便日后为他在商业道路上铺奠基石。于是便询问他为何不为李鸿章做事，而胡雪岩很自然地讲出因为张当初和王有龄不和，故不能背友投靠，左宗棠为胡雪岩的重情重义之举感到钦佩。这时候的左宗棠心中只有一个想法，那就是像胡雪岩这样的人才应该为他所用。而胡雪岩也正是看到了左宗棠将来不凡的前途，而愿意帮助此人，以便日后能够互相合作，走更广阔的路，胡雪岩很顺利地为自己找了一个更坚硬的靠山。

他们经常在一起商讨如何击败太平军的办法，这次也不例外，左宗棠依然为此事而感到忧心忡忡，没有想出良计，胡雪岩却有意地提了一句借用洋人的枪炮。左宗棠其实心中也早有此意，只是苦于并不真正了解洋人的技术，以及碍于当年洋人逼朝廷签下不平等条约和火烧圆明园等事。但是胡雪岩这时候却大胆提议，想利用洋人来制伏太平军，左宗棠立刻有了兴趣，让胡雪岩详细地说来。胡雪岩认为洋人既然是来中国赚钱的，那么就以生意人的身份和他们公平地谈生意，请他们出任军官和教官。政府招募一些骁勇善战的士兵，让洋人的教官对其进行训练，并出钱购买他们的军械设备，这样一来，政府就有了一支是中国人的洋军队。而太平军真正怕的就是洋人的洋枪大炮，并且日后中国人掌握了那些洋人的本领还可以在洋人进攻的时候对付洋人。左宗棠听了之后，觉得这个主意非常好，很有可行之处。同时左宗棠对胡雪岩的想法更是感到惊讶，觉得胡雪岩是一位可用之才。

胡雪岩的这一想法得到了左宗棠的大力支持并准备立刻实行，于是就有了常捷军。胡雪岩在上海接触过洋人，自己手下的几个伙计也懂得洋文，跟洋人谈事情也比较方便。所以，关于常捷军的成立大部分都是由胡雪岩操办的，包括资金、士兵的选拔等等。

1862年，浙江巡抚左宗棠与驻宁波的法国舰队司令勒伯勒乐、宁波海关税务司法国人日意格等合作，募集中国士兵约千人，派法国军官教练，用洋枪洋炮装备，在宁波组成“常捷军”。常捷军在外国人口中被称作“中法混合军”，后扩充至1500人，最多时达到3000人，次年二月，杭州、湖州等地被政府收复。

常捷军所需要的军械枪支的费用在当时并不是一笔小数目，虽然胡雪岩极力相助，但是依然不能支付得起，胡雪岩这时候想到了跟洋人贷款的办法。之前胡雪岩去上海的时候曾经接触过外国人的银行，况且自己在那边也有熟人打点，但是跟洋人合作并不是一件容易的事情。但是胡雪岩并没有放弃，决定跟洋人进一步打交道以便贷到钱款来解决这迫在眉睫的战事。胡雪岩不负左宗棠所望，费尽周折，最后终于成功地向外国银行贷下款，以用来解决枪械费用。左宗棠的士兵本来就英勇善战，又通过洋人的严格训练，如果再有这些先进的武器那么就可以称得上是精英部队，对付人多但是落后的太平军简直就是易如反掌，所以，没过多久，杭州就被收复了。

在左宗棠收复杭州这件事情上，胡雪岩立下了汗马功劳，因而，日后的左宗棠和胡雪岩不管是在官场上还是在胡雪岩的生意上，并肩作战，并达到了两人人生中事业的巅峰。