当初，凉州刺史张寔（shí）得知长安被匈奴刘曜攻破，晋愍帝司马邺被强制带走后，痛哭了三天。

当时在上圭的南阳王司马保也图谋称帝，张寔认为他没有司马睿的血缘正统(1)，没有拥护司马保，而是选择派牙门将蔡忠到建康劝进。路途遥遥，等蔡忠到了建康后，司马睿已经称帝了，并改年号为“太兴”。但张寔在凉州不用太兴年号，仍然用晋愍帝的年号“建兴”。

京兆郡（今陕西西安市西北）人刘弘会些旁门左道，居住在天梯山（今甘肃武威市城南）的第五山上。他在山洞中点灯，然后悬挂些镜子反光，弄得洞中大亮，不了解内情的老百姓以为他是神仙，纷纷膜拜，追随他的有一千多人，就连张寔的身边人也有不少是刘弘的弟子，帐下督阎涉、牙门将赵卬和刘弘还是老乡，关系更是亲密。

刘弘野心还挺大，有一次他对阎涉和赵卬说：“近日，我接到神灵指示，要我在凉州称王。”阎涉、赵卬对此深信不疑，竟私下与张寔身边的十多人密谋杀害张寔，遵刘弘为主公。

张寔的弟弟张茂生性安静好学，不把功名利禄看得太重，南阳王司马保曾经两次征召他，他都没有赴任。这次张茂得到密报，知道了刘弘他们的阴谋，再也淡泊不起来了，立即请求张寔诛杀刘弘。张寔命令牙门将史初前去逮捕刘弘，不想史初他们刚走，阎涉等人就怀揣利刃走进客厅，张寔起身还击，不敌被杀。

史初见到刘弘，割下他的舌头用囚车押送到姑臧，在街上车裂了他，并搜捕诛杀刘弘党羽数百人。

左司马阴元等人认为张寔的儿子张骏年龄小（年十四），难以支撑目前的局势，于是在太兴三年（320）六月，推举张茂为凉州刺史、西平公。张茂在境内赦免罪犯，任命张骏为抚军将军。不久，他又指定张骏为世子，把他当作自己的继承人。

这时候的凉州已经不再归属晋朝，是个独立王国了，后世以张茂上位为凉国建立的时间节点。为了区别之后的其他凉国，史称张茂建立的凉国为前凉。

(1) 司马保是司马懿弟弟司马旭的曾孙，而司马睿是司马懿的曾孙。