自从永和三年（347）前凉军师将军谢艾勇破后赵之后，前凉过了几年安稳的日子。前凉王张重华对谢艾信任有加，这引起了一些权贵的嫉妒，他们找碴让张重华把谢艾调任为酒泉郡太守。

永和九年（353）张重华病重，下诏让谢艾回京辅政，但他的堂兄张祚收起了诏书，拒不宣布。当年十一月，张重华去世，世子张曜灵继位，张祚辅政。后张祚和马太后勾结，废黜了张曜灵，杀死了谢艾，自己登上王位。

张祚之前就和马太后通奸，称王后更是荒**无度，而且他为人残暴，君王的位置也得来的名不正言不顺，致使前凉上下离心。

河州刺史张瓘手握重兵，张祚对他不放心，派兵袭击，结果兵败，张瓘和骁骑将军宋混及宋混的哥哥宋修杀向京师姑藏。张祚为绝后患，派人残忍地杀死了张曜灵。

张瓘和宋混率军进入姑藏，张祚在混战中被杀死，宋混拥立张重华的幼子张玄靓为王。迫于前秦的强大压力，张瓘代表前凉向前秦称臣。

但张瓘也不是个好人，他为人凶狠，任人唯亲，而宋混性情耿直，在很多问题上和他分歧严重。渐渐地，他们两人之间产生了尖锐的矛盾，宋混起兵杀死了张瓘，自己辅政。升平五年（361）宋混去世，他的弟弟宋澄继承了哥哥的权力，成为辅政大臣。

五个月后，右司马张邕发兵杀死宋澄，并灭了宋澄三族。张玄靓任命张邕为中护军，任命叔叔张天锡为中领军，让他们共同辅政。不久张天锡又发动兵变，杀了张邕全族，自己专政。

兴宁二年（363）八月，张天锡发动政变，杀死侄儿张玄靓，自己称王。他拒绝再做前秦的附属国，派人告知前秦，要断绝两国关系。

前秦灭了前燕后，张天锡感觉到压力山大，因为前秦的下一个目标很可能就是前凉，于是他派人送信给晋朝，希望晋能派兵支援。

太元元年（376）七月，苻坚派使持节、武卫将军苟苌和左将军毛盛、中书令梁熙、步兵校尉姚苌等统率十三万人马，向前凉挺进。张天锡派龙骧将军马建率领两万兵马抵抗前秦。

八月，梁熙、姚苌等从清石津（今甘肃兰州市西北）渡过黄河，攻打前凉河会城，守城的骁烈将军梁济出城投降。八月十七日，苟苌从石城津（今甘肃兰州市北）渡河，与梁熙会师，夺取了缠缩城（今甘肃永登县境内）。前凉龙骧将军马建摄于前秦的强大攻势，退守清塞。

张天锡派征东将军常据率领三万兵马据守洪池，他自己则亲自统领仅剩的五万兵马驻扎金昌城。

苟苌命姚苌率领三千精兵作为前锋继续前进。八月二十三日，马建突然率领一万人马向苟苌投降，他手下的其余人也四散逃命。八月二十四日，苟苌与常据大战洪池，常据不敌，连战马都被乱箭射死，属下把自己的马让给他让他逃走，常据拒绝，选择了自刎。八月二十六日，前秦军进入清塞，张天锡派司兵赵充哲出战，不敌，凉军被俘、被杀三万八千人，赵充哲阵亡。张天锡看大事不妙，和数千骑兵逃回姑臧。八月二十七日，前秦的军队抵达姑臧城下。

眼看城池要被前秦攻破，与其那样，不如主动投降，说不定还能保住一命，于是张天锡命人绑上他的双手，乘坐白马拉的车子，拉上棺材出城投降。苟苌亲自为他松绑，并烧了棺材，只是把他押送回长安。前凉的各州郡县也全部投降了前秦。

至此，前凉正式灭亡，立国五十七年，是五胡十六国中立国时间最长的。不过需要言明的是，这是个汉人建立的政权，将它归入“五胡十六国”并不贴切，我们也只是沿用了这个习惯性的称呼。前凉共历七位国君，分别为张茂、张骏、张重华、张曜灵、张祚、张玄靓和张天锡。

九月，苻坚任命梁熙为凉州刺史，镇守姑臧，并命人将凉州的大族和豪门中人共七千多户迁徙到了关中。

苻坚任命张天锡为北部尚书，封归义侯，对前凉的其他官员也都量才予以任用。当初军队刚出发的时候，苻坚就命人为张天锡修建府邸，这时候府邸也修好了，苻坚就让张天锡住在了那里。

晋朝的桓冲得到前秦攻打前凉的消息，派兖州刺史朱序、江州刺史桓石秀、荆州督护桓罴、豫州刺史桓伊、淮南太守刘波前去支援。听说前凉被灭后，桓冲下令立即撤兵，让他们各归各位。