当年，苻坚任命骁骑将军吕光为使持节、都督西域征讨诸军事，和将军姜飞、彭晃、杜进、康盛等人率领十万步兵、五千骑兵，以鄯善王休密驮等为向导，出兵讨伐西域。
吕光克服重重困难，率军穿越三百多里的沙漠，深入西域，焉耆等各国望风而降，唯有龟兹国（今新疆库车县）国王帛纯坚守城池，顽强抵抗。吕光围城半年多，虽然没有攻下龟兹的首府屈茨，但帛纯也已经弹尽粮绝了。帛纯派人给狯胡王送去厚礼，请求他出兵救援，狯胡王派他的弟弟呐龙率领二十多万骑兵，同时联合温宿、尉须等各王国军队共计七十多万人马，驰援龟兹。
吕光不愧为万人敌，他面对强兵毫无惧色，率军和他们在城西大战。吕光一马当先，连挑对方数员战将，联军大败，帛纯也弃城逃跑。这一仗，投降来的王国、侯国有三十多个。
吕光率军进入龟兹首府屈茨城，进城以后他大吃一惊，因为这里竟然繁华如长安，宫殿雄伟壮观，街市车水马龙。吕光安抚远近归降的西域各国，这些国家的使臣献上了汉朝时期的符节，吕光为他们更换为前秦的符节，然后立帛纯的弟弟帛震为新的龟兹王。
苻坚得到吕光平定了西域的消息，任命吕光为都督玉门以西诸军事、西域校尉，但这时候交通已经阻断，任命书无法送达。
吕光在龟兹国找到了高僧鸠摩罗什，这也是之前苻坚交代过的。鸠摩罗什家世代都是天竺国（古印度）的国相，他的父亲鸠摩罗炎天资聪明，但不贪恋荣华富贵，在将要继国相位的时候选择了出家。鸠摩罗炎东度葱岭（今帕米尔高原），至龟玆国，国王敬慕他，迎他为国师。龟玆国王有个妹妹，年方二十，非常聪明，国王逼鸠摩罗炎娶了这个妹妹，生下了两个儿子，分别名叫鸠摩罗什和弗沙提婆。
鸠摩罗什出生于晋建元二年（344），天资聪明，相貌出众，七岁的时候便和母亲一起出了家。鸠摩罗什跟随师傅学经，每天能诵读三万两千字。他十二岁的时候随母亲到外游学，二十岁的时候，龟兹王把他们接回国。后来他母亲去了天竺，留下他在继续传教。鸠摩罗什广泛讲经说法，名扬西域，西域各国都争相请他去讲经。每当鸠摩罗什到各国讲经时，各国的国王都跪在座位旁边，让鸠摩罗什踩着他们登座。
吕光强逼鸠摩罗什娶新任龟兹王的女儿，鸠摩罗什不同意，吕光把他灌醉，然后把他和龟兹王的女儿单独关在了一间房里，鸠摩罗什就这样和龟兹王的女儿有了儿女之情，不得已娶了她。
吕光看到龟兹比较富裕，有了留下来称王的想法，但鸠摩罗什对他说：“这里是凶地，不可久留，您率军东返的途中自会遇到福地，到时候可以居留。”吕光听从，命人用两万多头骆驼驮上从西域得来的奇珍异宝，连同一万多匹骏马，一起东返。
听闻吕光率军东返，有人劝前秦凉州刺史梁熙，说关中已经大乱，吕光这一趟过来，目的难测，高昌太守杨翰也劝梁熙要把守险关高梧谷口和伊吾关，拒吕光等人于关外，梁熙不听。
有人把杨翰的计划传给了吕光，他感到很紧张，不敢前进，命令部队就地扎营。辅国将军杜进说：“梁熙文雅有余，但见识不够，不会采纳杨翰的计谋，我们要赶快进攻。”
吕光同意，率军来到了高昌，杨翰出城投降。敦煌太守姚静、晋昌太守李纯不战而降。到了玉门后，梁熙任命儿子梁胤为鹰扬将军，与振威将军姚皓、别驾卫翰率领五万兵马在酒泉截击吕光。吕光派彭晃、杜进、姜飞作为前锋，与梁胤在安弥（今甘肃酒泉市东）交战，大败梁胤的军队，抓获了梁胤，自此，远近山区里的胡人、夷人都来投降吕光。武威太守彭济兵变，押着梁熙也来投降奔吕光，吕光命人杀死了梁熙。
吕光率军进入姑臧（今甘肃武威市），这是前凉当年的都城，建设得有一定规模，吕光在这里自任凉州刺史，同时上表推举杜进为武威太守，其他人等也各有任用。
此时，除了酒泉太守宋皓、西郡太守索泮外，凉州其他郡县全部投降了吕光。吕光大怒，率军攻破了这两个人的城池，抓获了他们，将他们处死。
主簿尉祐当时与彭济一起起兵逮捕了梁熙，所以吕光对他很信任，但尉祐公报私仇，诬陷并杀害了名士姚皓等十多人，朝臣们对此很不满意。后来吕光任命尉祐为金城太守，结果他到了允吾后竟叛变了。吕光派姜飞攻破城池，尉祐逃到了兴城。
这时候，吕光得知苻坚已被姚苌杀死，痛哭三天，命令士兵全部穿上孝衣，以此哀悼旧主。
太元十一年（386）十月，吕光在境内大赦，改年号为“大安”，改国号为“凉”。一个新的国家诞生了，史称后凉，为五胡十六国之一。
吕光平定凉州的时候，杜进立下了汗马功劳，吕光对他言听计从，任命他为武威太守。吕光的外甥石聪从关中来投，吕光问他道：“中原人对我治理凉州评价如何？”石聪回答道：“只听说杜进，没有听说吕光。”吕光一听，如鲠在喉，后来找了个理由把杜进杀了。
吕光设宴和大臣聚会，期间谈到国家治理的问题，参军段业说道：“主公用法太过严苛。”吕光不以为然，答复道：“吴起当年刻薄寡恩，却使楚国强大；商鞅执法严峻，秦国因此复兴。”段业又说：“吴起后来被杀，商鞅祸及满门，都是因为当初对人处理得太严。主公刚刚建立伟业，应该向尧舜这些先贤看齐，怎么能去效仿吴起、商鞅呢？这不是我国人民所期望的明主！”吕光一听，脸色为之一变，觉得段业说得非常有道理，起身表示了歉意和感谢。