公元1115年，耶律大石考中进士，进入翰林院担任翰林承旨。他是《辽史》中记载的辽国唯一一个契丹进士。后来，他又先后担任泰、祥二州的刺史和辽兴军节度使。

公元1122年，快速崛起的女真族与北宋军队同时向辽发起猛攻。北面，金兵把辽兵杀得节节败退；南面，十余万宋军两次越过黄河，直逼辽国国都南京城。然而让人难以置信的是，拥有绝对优势的宋军，却被已经疲弱不堪的辽兵打得落荒而逃。这两次军事上的失利，令大宋朝王安石变法以来积下的老底一下子输得精光。始作俑者，便是耶律大石。

公元1124年，昏聩的辽国末代皇帝天祚帝执意向金出兵。在耶律大石看来，这个决定实在是荒唐至极。多次劝阻无效后，耶律大石效法越王勾践，带着二百名亲信夜遁西北，远走可敦城。

不出半年，无法无天的天祚帝被俘虏，辽国灭亡。耶律大石对此痛心不已，他愤慨地对部将们说：“祖太宗经过二百年的艰难创业，竟被金朝所灭，他们残害黎民百姓，强占我国领土，使天祚皇帝一直蒙在鼓里。这实在是让人痛心疾首，今天我仗义而西征，希望能够借助诸位的力量剪除仇敌，讨还我河山。”在他的激励下，将士们群情激愤，纷纷发誓要追随耶律大石重振大辽国。

此后，耶律大石在可敦城经过五年的调整，渐渐恢复元气，精兵骑士数量达到万余人。同时，他还成功地拉拢了西夏、北宋及白达达部同自己一起联手抗金。

公元1130年，当金兵大举向可敦城进攻时，耶律大石选择了继续西行。

一年后，他率领人马穿过阿尔泰山北麓、叶尼塞河上游的黠嘎斯以及乃蛮的领地，在今天新疆塔城地区的额敏县扎下根，并在那里建了一座也迷里城。

凭借着也迷里三面环山、易守难攻的优越地势，以及水草丰美、土地肥沃的优越环境，耶律大石的实力一步步壮大。他的到来，也让混乱不堪的西域形势出现了新的转机。

据阿拉伯史学家伊本·阿西尔的《全史》记载，耶律大石来到也迷里之后，在这里修筑城池，招抚当地部落，使得部众人数增加到四万户之多，成为雄踞西域的霸主。

公元1132年，耶律大石在部众的簇拥下正式登基，始称“天佑皇帝”，年号“延庆”。人们根据当地部族的习惯，尊他为“菊儿汗”，意思是“汗中之汗”。耶律大石认为，自己创建的政权是辽的正统延续，因此国号依旧为辽。然而，后世的史学家们认为，这个政权应称为“西辽”，因为正统的辽国早在其七年前就灭亡了。穆斯林的史料则称西辽为“哈剌契丹”，即“大契丹国”的意思。