光熙元年（306）十二月，新上任的并州刺史刘琨从洛阳出发，前往并州州府晋阳（今山西太原市西南）。当时并州处于和匈奴争斗的最前沿，深受匈奴抢掠之苦，刘琨一路上饱尝艰辛，冒险前进，目睹了百姓流离四散的惨状：道路上扶老携幼出逃的百姓成群结队，连绵不绝，被杀死的、被饿死的塞满道路，白骨露于野，秃鹰在空中盘旋，发出阵阵刺耳的叫声，场景相当凄惨。

此前，东燕王司马腾要从并州出发去邺城镇守，从太行山中的井陉（太行八陉之第五陉）东下，并州将领田甄、田兰、任祉、祁济、李恽和薄盛等人以及其他官吏、百姓共计一万多人，都跟随司马腾到冀州讨饭吃，这部分人被称为“山西（太行山以西）乞活”，他们组成的军队被称为“乞活军”。值得注意的是，这支乞活队伍里有个叫冉瞻的年轻饥民，他就是冉魏政权的建立者冉闵的父亲。

组织乞活军有两个好处：一可以将流民收编，使这些人有所依靠，不再四处流散；二可以形成一支强有力的武装，便于更好地谋食。没有财产住所，只为活命乞食，这样的部队打起仗来无后顾之忧，十分勇敢强悍。后来，乞活军成为司马腾麾下一支重要的军事力量。但也是因为组织乞活军，人们大量外迁，再加上连年战乱造成大量死亡，并州人口骤减。

刘琨一路招兵买马，终于招募到一千多人，他带着这些人边战斗边前进，历尽艰辛，终于到达晋阳。这时候，整个并州剩下的人口也不足两万户，州府晋阳更是满目疮痍。官署已经被焚毁，尸首遍地，杂草丛生，没有耕牛，农具也寥寥无几，匈奴人盘踞四周，人们连做饭的柴火都很少能得到，少数留守官员也是面黄肌瘦，刘琨看得一阵心酸。他向朝廷写信，请求拨付五百万斛粮食、五百万匹绢、五百万斤绵以维持政府运转，同时赈济灾民，得到批准。又命人掩埋尸体，铲除杂草，修复官衙，安抚百姓，大力发展生产，慢慢聚集起了一些流民。

不到一年的时间，并州的社会状况大有改观。从这点看，刘琨还是比较擅长做民生工作的。