八王混战开始后，匈奴部落里的一些贵族说：“我们匈奴单于后代虽然有封号，但是却没有自己的土地，跟一般百姓没什么两样。现在晋朝发生内乱，自相残杀，正是我们匈奴人恢复地位的好时机啊！”

大家一致认为刘渊有才能、威望高，推举他当单于相当合适。于是，贵族们派人去请回刘渊。刘渊很高兴，就借口要回匈奴安葬自己的父亲，向司马颖请假；司马颖不同意，刘渊只好让使者先回去，并且要五部匈奴集结兵力，向南移动。

后来，司马颖与东海王司马越争夺地盘，并打算挟持晋惠帝逃跑。晋朝的并州刺史司马腾、将军王浚联络鲜卑贵族攻打司马颖，司马颖落败，逃往洛阳。刘渊向司马颖提出要回去带匈奴兵马来助战，司马颖才放他走。

公元304年，刘渊回到左国城，大伙儿拥戴他做大单于。他集中了五万人马，亲自率领南下，帮助晋军攻打鲜卑兵。有人问他，为什么不趁这个机会把晋朝灭掉，反倒去帮助晋军呢？

刘渊说：“要灭掉晋朝容易，但是晋朝的百姓未必会向着我们。我看汉朝立国的年代最长，在百姓心中影响也大，我们的祖先又是汉朝皇室的兄弟。现在汉朝亡了，我们用继承汉朝的名义，也许可以得民心。”

大家听了，觉得是个好主意。自此以后，刘渊就宣称自己是汉王。

相关链接：

西北彪悍民族的统称——“胡”

“胡”最初指的是匈奴人，后来泛指古代北方游牧、渔猎民族。“胡人”的说法出现很早，战国时，赵武灵王“胡服骑射”的说法就足以证明。胡，并非对少数民族的蔑称。具体说，是对居住在北方和西方的少数民族的一种泛称。

西汉时，匈奴单于狐鹿姑曾经给汉室皇帝致书，说“胡者，天之骄子也”。也就是说，“胡”在匈奴人眼里是“天之骄子”的意思，和中原的“天子”意思差不多。胡人最辉煌的时期是两晋南北朝，伴随着晋室的衰落与南迁，原居中国北方的少数民族纷纷南下，与汉族比邻，并先后建立了五凉、四燕、三秦、二赵、大夏等十五个北方政权和一个西南政权成汉。由于这些政权主要是由匈奴、鲜卑、羯、氐、羌五个少数民族所建，所以史称“五胡十六国”。