洛阳主要的军事力量被司马越带走又后被石勒全歼，洛阳仿佛成了一座空城。但朝政还得继续，怀帝司马炽任命傅祗（zhī）为司徒，荀藩为司空，王浚为大司马、侍中、大都督及都督幽、冀二州诸军事，司马模为太尉、大都督，凉州刺史张轨为车骑大将军，琅琊王司马睿为镇东大将军，兼都督扬、江、湘、交、广五州诸军事。

因为京师洛阳饥荒十分严重，又有强敌环视，大将军苟晞上书请求迁都到自己的根据地仓垣，并派从事中郎刘会率领几十艘舰船、五百名护卫、一千斛（一百升等于一斛）粮食去迎接怀帝。怀帝打算接受苟晞的建议，但公卿大臣意见不一。朝堂上闹哄哄的不能决定，宫中的人又贪恋过去搜刮的财产，也不愿意迁都，最后怀帝也没了主意。

机会永远不等人。不久后洛阳城中几乎断粮，街头出现了人吃人的现象，文武百官逃亡殆尽，怀帝终于下决心开始准备迁都，但发现竟然连侍卫都凑不齐。他着急得直搓手，不断叹息道：“为什么连轿子都没有呢？”

怀帝派司徒傅祗出城到河阴（今河南孟津县）筹集出走时用的船只，然后由几十名官员开路，步行从西掖门走出皇宫，来到了昔日最繁华的铜驼街上，可是过去熙熙攘攘、人声鼎沸的场面已经不见，眼前是满目的荒凉和路边三三两两的尸体，秃鹫在高空盘旋，发出阵阵刺耳叫声。怀帝吸了一口冷气，继续前行，突然被一伙强盗拦住了去路。这伙人没有认出怀帝，只是看这帮人衣着华丽，非富即贵，觉得要发财了才出来抢劫。怀帝等人随身携带的物品被疯抢一空，衣服也被剥下，没办法，怀帝赶紧撤回了宫中。度支校尉魏浚忠于朝廷，率领数百家流民守卫在河阴的峡石，抢劫搜罗粮食呈献给怀帝。怀帝任用魏浚为扬威将军、平阳太守（此时平阳在汉赵手中）兼度支校尉。

汉赵皇帝刘聪派呼延晏、刘曜、王弥、石勒等分头行动，对洛阳发起最后冲击。刘曜的大军还没有到达，呼延晏已到洛阳城外，他命人把粮草辎重留在张方当年在洛阳西十三里桥建造的堡垒之中。

永嘉五年（311）五月二十七日，呼延晏到达洛阳城下。五月二十八日，呼延晏命令攻打平昌门。五月三十日，平昌门破。呼延晏命人放火烧了东阳门和有关府衙，抢了一些财物后就退出了洛阳，并命人把停泊在洛水的船只焚毁，切断怀帝水上的退路。

六月四日，司空荀藩和时任光禄大夫的弟弟荀组丢下怀帝，出逃到轘辕。六月五日，王弥率军到达宣阳门。六月六日，刘曜到达西明门。六月十一日，王弥和呼延晏攻入宣阳门，直入南宫，闯入太极殿的前殿，放纵士兵抢劫，把宫中的宝贝抢夺一空。怀帝司马炽狼狈出逃，出华林园门，准备投奔长安，但被汉赵士兵捉住后囚禁在端门。刘曜从西明门进城，在晋的武库扎营。六月十二日，刘曜杀死了晋朝太子司马诠、吴孝王司马晏（晋愍帝司马邺的父亲）、竟陵王司马楙、右仆射曹馥、尚书闾丘冲、河南尹刘默等人，这一次，洛阳的官员百姓死了三万多人。

刘曜又挖掘晋朝历代陵墓，焚烧祭庙，烧毁皇宫和官府。他在弘训宫发现了美艳的羊献容，立即惊为天人，将其纳为己有。刘曜命人把怀帝和皇帝的六方玉玺都送往平阳。司马炽到平阳后受尽刘聪的侮辱，在建兴元年（313）被刘聪毒杀，年三十岁。

洛阳的事让刘曜都干完了，石勒选择带兵出洛阳，过轘辕关，来到许昌驻扎，静观时局。晋光禄大夫刘蕃（并州刺史刘琨的父亲）、尚书卢志出逃，投奔并州而去。

刘曜因为王弥不等自己到达就抢先进入洛阳而对王弥心怀怨恨，后来王弥放纵士兵抢掠洛阳，刘曜制止不成，更添恼怒。刘曜杀死了王弥的牙门将王延，王弥大怒，立即派人攻打刘曜，双方发生火并，死伤一千多人。

王弥的长史张嵩劝他：“您与始安王（刘曜）共同进攻洛阳，如今却互相攻击，还有什么脸面回去面对主公呢？攻陷洛阳的功劳确实属于您，然而刘曜是皇亲国戚，跟主公的关系更亲近一筹，您应该屈尊忍让。晋朝平灭东吴后，二王（指王濬和王浑）争功的前车之鉴，将军应该引以为戒。”王弥若有所悟，对张嵩说道：“你说得很对，如果不是你，我还不懂得自己犯了这种错误呢！”于是他向刘曜请罪，两个人的关系又和好如初。王弥和刘曜分别赏赐张嵩百斤黄金。

王弥对刘曜说道：“洛阳位居国家中心，四面有山河要塞作为天险，有现成的宫殿，应当禀告主公，让他把首都从平阳迁到洛阳。”刘曜以天下未定，洛阳四面受敌，势必不能长期坚守为理由，不同意王弥的建议，还纵火焚烧洛阳。王弥怒骂道：“这个屠各崽，不是个当帝王的料！”与刘曜间的怨恨又起。

王弥带兵向东到项关驻扎，已归降的晋司隶校尉刘暾对他说：“现在九州鼎沸，各路豪杰逐鹿中原，将军您为汉国建立了奇功，有功高盖主之嫌，现在又和始安王发生冲突，汉国已经没有您的容身之所了，不如往东走，据守您的老家青州，静观天下大势。待局势有变，上可以统一全国，下也不失为一方诸侯，这是上策。”王弥赞同。