李鸿章在压垮了胡雪岩之后，下一个目标便是朝中的军机大臣左宗棠。

李鸿章与左宗棠的矛盾由来已久，他们早在攻打太平天国之时就曾有很深的矛盾。李鸿章与左宗棠当初都拜在曾国藩的门下，曾国藩是一位清代难得的英明大臣，当初在打太平天国的时候，曾国藩的湘军是主力军，李鸿章和左宗棠的淮军和楚军都各居一地。当时曾国藩的湘军一路骁勇善战攻打到太平天国的老巢天京，但是由于湘军一路杀敌太过疲累，所以，朝廷派李鸿章的淮军去支援。李鸿章这才去天京支援老师的战事，然而这件事情却顺势被人说成是李鸿章故意拖延时间，与曾国藩争功。其实与其这样说，倒不如说是李鸿章是为了养精蓄锐，以助湘军打败太平军。但是接下来发生的一件事情好像才体现出李鸿章的真正想法，那就是李鸿章在帮助曾国藩的湘军挫败了太平军的主力之后，又转移到了左宗棠的阵地去抢攻，而当时太平军的势力已经大减，左宗棠为此感到很是恼火。左宗棠是一个直言直语、脾气火爆的人，面对这等事情，他当然是不会罢休的。于是左宗棠便在朝堂上狠狠地参了李鸿章一本，因此，李鸿章被降了两职。就这样，李鸿章和左宗棠结下了深深的积怨，但是李鸿章并非一般人，他把诸多抱怨都藏在心里，暗下决心总有一天会让左宗棠下台。

还有一次，李鸿章和左宗棠也有着极大的冲突。当年新疆叛军阿古柏联合英、俄军队准备叛变，当时清政府面临着内忧外患的情势，一方面洋人们打开了中国的港口不断地骚扰东南各省；另一方面太平天国叛军刚刚平息，叛乱不断，新疆地区又出现叛变。1872年阿古柏开始印发自己的货币，形势十分严峻，1874年日本入侵台湾地区，对于新疆问题朝廷开始进行朝堂议事，当时以李鸿章为首的主和派和以左宗棠为首的主战派形成了两大对立帮派。李鸿章一派认为当时应该尽力看守住东南各省，东南各省是国家主要经济的来源，也是重要的港口城市，而荒瘠的西北地区可以适当放弃。于是，李鸿章认为应当全力进行海防，而放弃塞防。而左宗棠却认为，新疆地区自古以来就是中国的领土，如今发生叛乱，形势严峻，如果一旦暴乱成功，将会严重威胁到京城等首要重地，所以理应尽早出兵缴平。

最终朝廷还是决定塞防，并派左宗棠为西征军的钦差大臣，统领全军。好在左宗棠没有辜负期望，打了个漂亮的胜仗回来，1881年，清廷和俄国签订了《伊犁条约》，清廷收回了伊犁和特克斯河上游两岸领土，当然这其中是有胡雪岩一半功劳的。左宗棠凯旋之后，便在朝廷中确定了其举足轻重的地位，并把胡雪岩扶上了官场之路，使之成为自己的左膀右臂。而李鸿章却没有得到一点点的好处，于是他就更加和左宗棠过不去。李鸿章是一个精明且城府很深的人，在之后的很多年里，他都在找机会想给左宗棠沉重一击。

李鸿章再次和左宗棠发生矛盾是在中法战争中。1883年末，法国因越南之事而频繁涉足中国国土，最终引起中法之间的战争。法国是当时世界上的强国之一，因此清廷在战与和之间展开了内部的激烈斗争。还是李鸿章主张议和，左宗棠主张议战，然而最终战争的结果还是清政府议和签约。李鸿章代表清政府于1885年6月9日在天津签订了不平等条约《中法会订越南条约》，从此把中国西南的门户打开了。当时左宗棠就非常反对，并骂李鸿章“对中国而言，十个法国将军，也比不上一个李鸿章坏事”，“李鸿章误尽苍生，将落个千古骂名”等。这种话语一说出去，马上就引起了共鸣，一时间，全城人们都在谈论李鸿章是卖国贼。李鸿章听后十分恼火，但是对左宗棠又没有任何办法，因为当时左宗棠身为朝廷一品大员，并立过汗马功劳，连慈禧太后都不敢拿他怎样，更何况李鸿章。但是李鸿章心里认为左宗棠的气数已经不多，只要把他的同党除掉，对付左宗棠就很容易，于是李鸿章开始把目标对准了胡雪岩。李鸿章一直认为，只要把胡雪岩弄垮了，那么左宗棠也很快就会倒下的。