洛阳失陷，怀帝被俘，群龙无首。在阳城（今河南登封市）的司空荀藩，在成皋的河南尹华荟（曹魏重臣华歆的曾孙），联合汝阴太守李矩一起，共推举司徒傅祗为盟主，帮助他在河阴建立行台，为他供应粮食等物质。傅祗以司徒、持节、大都督的身份传檄四方，又派遣儿子傅宣带领公主和尚书令和郁奔赴各征镇征发义兵。

后来，荀藩与弟弟荀组、族侄荀崧、华恒（华荟弟弟）在密县（今河南新密市）也建立了一个行台，他们推举琅琊王司马睿为盟主，也向各地发布檄文。荀藩代行皇权，任命荀崧为襄城太守，李矩为荥阳太守，前冠军将军褚翜（shà）为梁国内史。

并州刺史刘琨也自行皇帝职权，任命驻扎在的石梁坞（位于洛水北）的扬威将军魏浚为河南尹。

豫章王司马端是太子司马诠的弟弟，他出逃后投奔仓垣，苟晞率领文武官员奉司马端为皇太子，组建行台。司马端行使皇权，任命苟晞为太子太傅、都督中外诸军事、录尚书事。苟晞把行台从仓垣迁到蒙城。

抚军将军秦王司马邺（年十二岁，司马晏的儿子）是荀藩的外甥，他向南投奔舅舅，荀藩改奉他为盟主，把行台向南迁到许昌。前豫州刺史阎鼎在密县聚集了几千西州流民，荀藩任命阎鼎为豫州刺史，又命周顗（晋安东将军周浚的长子）等人作为阎鼎的参谋助手。

永嘉五年（311）七月，幽州刺史王浚找到了司马家的一位宗亲，设置祭坛祭拜天地，立此人为皇太子，通告天下，代表皇帝任命官员。

几个行台并立，互不隶属，无法形成统一的对敌阵营，纷乱必将继续。