左宗棠打了胜仗，阿古柏、白彦虎等人或死或藏，这样一来，伊犁就成了大家目光聚焦的敏感区域。这年年底，清政府派出崇厚与俄国交涉伊犁一事。原本俄国进占伊犁，就是趁着中国内乱不息，打着“协助代管”的旗号来的，当时沙皇做出一副很友好的样子说：“等你们战乱平定了，我就把伊犁还给你们，这个时候你们家到处打仗，伊犁眼看都要给乱党占领了。”崇厚这一次和俄国人谈判，就是冲着这句“仗打完就还给你们”去的。可惜的是，崇厚这个人，没有什么胆略，到了谈判桌上一坐，身材高大的俄国人瞪瞪眼，就把这个清朝大臣吓坏了。1879年10月，他诚惶诚恐地在《里瓦几亚条约》上签了字。条约中规定，俄国将伊犁归还中国，中国为此需要将伊犁以南、以西的大片领土割让给俄国，并且付给俄国军费500万卢布。此外俄国还获得了在新疆和蒙古进行交易时免贸易税，新增两条陆路通商路线，在乌鲁木齐、嘉峪关等多处设立领事馆等特权。总共十八则条约，除了首条“俄国归还伊犁”外，全部都是偏向俄国的约定。事情传到紫禁城，朝野议论纷纷，慈禧也感觉崇厚是丢了老祖宗的脸，下令将他投入刑部大牢，判了个死罪，然后又让曾国藩的儿子曾纪泽出面，重新谈判。当然后来俄国方面施压，李鸿章、恭亲王等人劝谏力保，使得崇厚在交了30万两银子之后赎罪获释。
在这一期间，左宗棠毫无疑问是主战的。他在给慈禧的折子中这样说道：“如此对待这些外来侵略者就像是喂狗，单单给他们喂骨头是满足不了他们的，等有一天朝廷手中的骨头送光了，他们也不会停下来。”求战之心溢于言表。很快，左宗棠密奏慈禧，希望以武力为后盾，作为和俄国争斗的方针，慈禧下旨：“准奏。”接下来，左宗棠一生之中最让人津津乐道、最为闪光耀眼的一刻到来了。
光绪六年（1880年）四月十八日，68岁的左宗棠抱定誓死之心，出征前，先置黑漆棺材一口，令麾下八名健儿抬举随行。鸣炮祭旗之后，左宗棠遥见身后队伍如滚地长龙，绵延百里，一眼望去，浩浩****，不能看尽；麾下将士个个擂鼓呐喊，气势如虹，戈壁滩上的阳光映着刀枪，到处都是白花花的一片。左宗棠翻身跨上白马，振臂一呼，挥师西进。左宗棠这一次“抬棺出战”，抱以必死之势和誓要同俄人一决生死的决心，实在是光耀千古，令无数后来者顶礼膜拜。而他本人，也因为这一个棺材的出现，正式完成从战斗英雄向图腾的转化，继而名留青史，享受万年香火。
左宗棠率大军奔赴哈密，驻军城西凤凰台，就近指挥军事。当下派出的探报回来说，俄军在伊犁的军事非常薄弱，总计只有一千人，大炮也只有十门，没有什么攻击力。此时，俄国的意图很明显了，他们只想防守，并无攻击的意思。左宗棠把大军开到这里，给了俄国人很大的压力。
六月二十六日，朝廷派出使臣曾纪泽重新和俄国人展开谈判，要求重写条约。双方僵持不下，一开始俄国公使以全权使臣崇厚已经签字画押为由，对中方提议不予理睬，并且以武力相要挟，曾纪泽据理力争，坚决要求重新谈判。这个时候俄国自己也是内忧不断，自1861年俄国搞改革，此后一直处在变化的阵痛期内，如果真要打起来，谁都占不到便宜。更何况左宗棠又屯兵凤凰城，使得这一切都开始转为对清政府有利了。于是双方坐下来，重新展开谈判，迈开了修改条约的第一步。
到了这个时候，清政府软弱无能的一面又暴露了出来：八月十一日，朝廷颁下一道圣旨，召左宗棠回京面圣，新疆事务交由部将打理。很明显，朝廷只希望能稍微将《里瓦几亚条约》改得不那么苛刻就可以了，不到万不得已，这仗还是不想打的。左宗棠作为主战派的带头人，无可奈何之下，只好上奏推荐刘锦堂督办新疆军务，张曜帮办，杨昌浚任陕甘总督，自己一路风尘仆仆，赶回京城。
俄方代表率先知道了左宗棠被调回紫禁城的消息，然而他们是知其一不知其二，慈禧等人想要求和，所以把左宗棠叫了回去，这帮俄国人却有些慌神，他们以为真的要开战了。所以这些俄方代表几乎每次见面都要旁敲侧击一番，借此打探左宗棠和大清的动向。曾纪泽却不知道左宗棠已经离开新疆回北京了，当俄国代表小心翼翼地问他说：“听说左宗棠回北京去了？”曾纪泽眼皮也不抬，直接说了一句：“谣言。”这一下把俄方代表格尔斯吓着了，他以为左宗棠回京是机密事情，于是连忙说：“中俄交好已经二百来年了，如果真的为了一点小事打起来，真的不值得。”
就这样，在左宗棠武力的协助下，曾纪泽同格尔斯重写了中俄条约，是为《伊犁条约》，在清政府疲弱的情况下，曾纪泽追回了伊犁以西、以南两万多平方公里的土地，虽然赔付的军费从500万卢布上升到900万卢布（合509万两白银），但是关于通商关税、驻领事馆等方面的条件都得到了相关缓解，总体而言这依然是一个不平等条约，但是比起崇厚签的那份，《伊犁条约》还是很进步的。在避免了战争的情况下，左宗棠对这个条约还算勉强满意，因为经历这么多年的军旅生涯，他早就知道，仗不是那么好打的，国家没钱，政府软弱，尽量避免开战之心也是可以理解的，对于曾纪泽，他的评价也是“差强人意”。俄军从伊犁撤退之后，金顺作为伊犁将军进驻伊犁。从1871年俄国“代管”到1882年交回，伊犁被俄国占据11年的历史宣告结束，整个新疆也重新回到了祖国的怀抱中来。