隆安二年（398）四月，北凉王段业命镇西将军沮渠蒙逊攻击后凉，生擒了后凉的西郡太守，吕光的侄儿吕纯。后凉的敦煌郡太守孟敏献出城池，投降了北凉，段业任命他为沙州（州府在敦煌）刺史，任命李暠（hào）为效谷县县令（今甘肃瓜州县西）。

李暠，字玄盛，小字长生，出生于永和七年（351），陇西郡陇西成纪（今甘肃天水市秦安县）人。李暠年少时非常勤奋好学，长大后性情沉静，聪明谦和，有度量。他博览经史，擅长文辞，熟读《孙子兵法》，精通武艺。他自称是西汉名将李广的十六世孙，广泛结交社会贤达，这些社会知名人士都对他赞誉有加。

李暠曾经和郭黁（nún）及异父同母弟弟宋繇在一个院子里生活。郭黁也是个当时的名士，又擅长看相算命，有一次他对宋繇说道：“你将来一定会做大官，位极人臣，但你的哥哥李暠会更了不起，他会成为一国之主。当母马生下额头上有白毛的小马的时候，就是应验的时候。”

李暠性情温和宽厚，施政手段宽松，县内百姓安居乐业，深得上级的称赞和县内百姓的拥戴。孟敏在沙州刺史任上去世，敦煌护军郭谦和沙州治中索仙联名向段业推荐李暠为敦煌太守。李暠正在犯难，恰好在北凉朝廷任中散常侍的宋繇从京师张掖回家探亲，他对李暠说道：“段王谋略不足，注定要失败，兄长难道忘了郭黁说过的话了吗？白额小马已经出生了！”李暠思考了一下，接受了弟弟宋繇的话，派人请求段业下达任命文。

段业也早就听说李暠的名声，准备任命他为敦煌太守，右卫将军索嗣是敦煌郡人，和李暠关系要好，深知李暠胸怀大志，因此劝段业道：“李暠在敦煌的号召力很强，不能让他在这个地方久待，要防止他做大。”段业于是改任索嗣为敦煌太守，给他拨付五百名骑兵护送他上任。

索嗣距离敦煌还有二十里的时候，派人通知李暠前来迎接。李暠尽管顾虑重重，但仍然准备前去迎接，这时候效谷县令张邈和宋繇劝阻他道：“段王昏庸无能，后凉也已经在走下坡路，这正是我们施展抱负的时候，现在你可以据敦煌而自立，为什么要将此地拱手送人呢？索嗣自认为是本郡人，老乡肯定会支持他，因此一定不会设防，这时候我们如果对他发动突击，定能把他连同他的部众歼灭。”

李暠牙关一咬，决定听从他们的建议。他派宋繇先去拜见索嗣，宋繇见到索嗣后，用恭敬的语言麻痹他，表示他们会完全服从索嗣的领导，李暠随后就要前来迎接。索嗣哈哈大笑，完全放松了警惕。不久，李暠派遣张邈、宋繇以及他的两个儿子李歆、李让率兵袭击索嗣，索嗣还以为是李暠来迎接自己呢，等明白过来的时候已经晚了。两军开战，索嗣大败，逃回了张掖。

李暠没想到会被好友索嗣出卖，非常恼怒，向段业上书，请求处死索嗣。辅国将军沮渠男成也很厌恶索嗣，这时候也劝段业除掉索嗣，沮渠男成说话分量很重，段业不得不听，只好命人把索嗣斩首。段业又派人向李暠致歉，提拔他为都督凉兴以西诸军事、镇西将军。

隆安四年（400）十一月，晋昌郡太守唐瑶背叛北凉，向六郡发出檄文，推举镇西将军李暠为冠军大将军、沙州刺史、凉公，兼敦煌太守。李暠大赦，改年号为“庚子”。史称李暠建立的凉国为西凉，属五胡十六国之一。

李暠任命唐瑶为征东将军，郭谦为军咨祭酒，索仙为左长史，张邈为右长史，尹建兴为左司马，张体顺为右司马，宋繇为从事中郎、折冲将军。然后派宋繇向东进攻凉兴郡，并攻打玉门关以西诸城池，宋繇把这些城池全部攻克。李暠命人在玉门关、阳关等地屯田，扩大耕地面积，积聚粮草，作为战略物资储备。