左宗棠再一次出任军机大臣，很大一部分原因是和中法战争有关的，而中法开战，中间必然绕不开一个越南。

越南在当时是中国的一个藩臣国，一方面是作为大清抵御外侮的屏障，另一方面也受到清政府的保护。早在道光年间，法国人就看上了越南，不断派出传教士、探险队奔赴越南，伺机行事。咸丰八年，英法联军攻打津京，法国趁这个机会一举攻克了越南的交趾、昆仑岛、西贡三省。由于越南和中国的藩属关系，黑旗军将领刘永福率领部众援助越南，在同越南军联合之后，黑旗军在河内西郊大败法军，打死了法军安邺上尉，越南国王十分高兴，封刘永福为三宣副提督。消息传来，群情振奋，朝中一些主战派也奔走相告，希望朝廷尽快出兵，对法宣战。

但是根据以往的经验，清政府对外作战，鲜有胜绩，因此很多大臣都持反对意见。很快，法国人凭借自己船坚炮利的优势，在1874年威逼越南国王签订了《构和同盟条约》，宣布越南为独立国，从而否定了越南与中国的藩属关系，也暗地里为自己掌控越南扫除了障碍。中国曾派出公使曾纪泽与法国交涉，但是法国屡屡推诿搪塞，丝毫没有诚意，中法关系日渐紧张。

当时朝中的主战派首推醇亲王奕。他跑去与恭亲王奕及其他军机大臣商讨抗法事宜的时候，虽然慷慨陈词，说得很涨提士气，但不料待他说完后，大臣们个个若有所思，都沉吟不语。甚至于主持军机处的恭亲王，也模棱两可，既不说战也不言和，态度极为暧昧。恭亲王的态度代表了朝廷的想法，这个时候，确实没有必胜的把握，打不赢就又要给人赔款割地，但是这个越南，很久以来就是国家的“友邦”，就这样看着被法国人霸占了，也不合适。因此是战是和，慈禧举棋不定。

而左宗棠对于这些洋人根本就没有妥协的意思，他立即上书，请彭玉麟以五只军舰、十只小兵轮加强两江、南洋防务，还从淮盐税中筹措了许多银两支给彭玉麟，叫他安心筹备军事。

1883年，左宗棠再次上书，指出法国人是“得陇望蜀”，主战之意溢于言表。他还派出王德榜，让他到湖南去招兵，以备前线调用。王德榜来到湖南，拉起左宗棠的大旗，称“左恪靖侯”，招募来的兵勇，也叫做“恪靖定边军”，很多人看到左宗棠的旗号，都慕名前来投军，几个月后，恪靖定边军开到广西南宁驻扎。

光绪九年，左宗棠生病，总督的职务交给了曾国荃来打理，他自己得到了四个月的假期。但是当他看到法军步步逼近，清政府欲罢不能，便自行取消了休假。此时朝廷也有了战心，对外宣战，就得起用左宗棠，于是慈禧颁下懿旨，令左宗棠赴京来见。

在此前，慈禧迫于舆论压力，命令广西巡抚徐延旭率军出镇南关，协助黑旗军作战，还同意了左宗棠的建议，派王德榜出关抗法。此外，她还从广西府库中拨出白银十万两，支给黑旗军，并向英国汇丰银行借款1400万法郎用做军费，还向德、美买来上万支快枪和120门钢炮，积极准备抗法。

但是前线的战事却并不如意，1883年底，法军攻打山西，结果原本应该驻守山西的云南巡抚唐炯跑到云南去了，大军群龙无首，山西失陷。1884年，法军又攻克了北宁，紧接着又占领了太原。

眼看战事不利，慈禧有些心慌了，在主和派首领李鸿章的劝言下，她又同意与法国人和谈。说到和谈，李鸿章就成了赴法谈判的不二人选。1884年5月11日，李鸿章和法国签订了《中法会议简明条款》，其中协议主要有三：第一，清政府承认法国与越南签订的不平等条约，承认越南独立；第二，允许在中越边境开商埠；第三，撤回中国在越南的驻军。

当李鸿章和法国人签订条约的时候，左宗棠正在来京的路上，一听到这个消息，可把他气坏了，他立马向朝廷递了一份《时务说帖》，力劝对法开战，并要求亲赴中法战场领兵作战。左宗棠抵达北京，慈禧仍旧任命他为军机大臣，并管理神机营兵事。神机营是皇城禁军的主力部队，一律使用西洋火器，装备精良，战斗力远比地方军高。但是左宗棠这次来北京不是为了宿卫京师，更不是为了指挥这样一支火枪队的，他想要出兵抗法，所以得到这样的差事自然不会满意。

然而没有想到的是，就在《中法会议简明条款》墨迹未干之时，法国人又开炮了。这一次，打的正是左宗棠苦心经营的福建造船厂。当时法国军舰在中国海域往来游弋，中国政府却严禁军人“率先开火”，违者虽胜必斩。这样，到了8月23日，法国军舰对停泊在马尾的福建水师发动突然袭击，中方一败涂地，福建造船厂也在敌方军舰的炮击之下化为一堆瓦砾，《中法会议简明条款》宣告破产。与此同时，农历6月28日，是光绪皇帝的寿辰，寿宴当日，左宗棠身心俱疲，没有给皇帝上寿，于是立马有人写本子弹劾左宗棠的“不敬”，还好有醇亲王奕保奏，慈禧也没有深究左宗棠的意思。这件事放到别人头上就是大罪，但放到左宗棠身上，也就这么过去了，算是一个小小的涟漪。8月26日，看到呼声越来越高，再想和谈也不大可能，于是在左宗棠、奕等人的一再恳请之下，慈禧太后终于决定对法宣战。左宗棠也顺理成章地成为了敌前统帅的不二人选；9月7日，朝廷任命左宗棠为钦差大臣，督办福建军务；9月15日，左宗棠正式离京南下，临行前，奕为他设酒壮行。《申报》也赞扬左宗棠说道：“左相以闽事吃紧，慷慨请行，所谓一息尚存，此志不容少懈，方之左名臣，曾多不让！”又有后人作挽联道：“决口不提和谈事，千秋独有左文襄！”

此时的左宗棠，已经是72岁高龄，长年累月的军旅生活、久经西北风沙的侵蚀，让他原本就不甚健壮的身体更加衰弱。早在一年前，他的左眼就失明了，但就是只有一只眼，左宗棠也敢和敌军一较高下。

12月14日，左宗棠抵达福州布防，一面搞防守，一面还要试图援助台湾清军，因为福建水师全军覆没之后，清政府丧失了制海权，台湾也被封锁了起来，守台驻军孤军奋战，粮食、军火都十分稀缺，情况很不乐观。由于沿海都有敌军的防线，大队人马开不过去，左宗棠就派王诗正带领恪靖军，趁天黑扮做渔民，偷偷溜进台湾。在恪靖军的支援下，法军屡次攻台都未能得手，只能转移目标，将重点放在了越南战场。这个时候，李鸿章密令淮军将领、驻守谅山要隘的潘鼎新“战胜不追，战败则退”，就此，清军丧失了战场上的主动权，处处被动挨打，谅山、文渊皆尽失守。法国军队直指镇南关。