段氏部落对慕容皝来说是个巨大的威胁，咸康三年（337）三月，慕容皝命人在段部乙连城（今辽宁喀喇沁左翼蒙古族自治县）东部修建了一座新城，让折冲将军兰勃驻守，这样一来可以加强防御，二来可以对段部产生威胁。

这招果然产生了效果，为了加强乙连城的粮食储备，四月，段辽命令数千辆车组成车队，向乙连城运送粮食。兰勃抓住时机，主动出击，全部予以截获。

九月，镇军左长史封奕等人认为慕容皝目前的职位（辽东公、镇军大将军）和他承担的责任不相符，劝慕容皝顺应时事，称燕王。慕容皝同意了，并开始设置各种政府机构，任命封奕为国相，韩寿为司马，杜群任纳言令（即尚书令）。

十月十四日，慕容皝正式称燕王，下诏大赦，追尊父亲武宣公慕容廆为武宣王，封自己的妻子段氏为王后，立世子慕容儁（jùn）为王太子。从此刻开始，五胡十六国中的另一个国家燕国出现，为了区别以后成立的各个燕国，史称慕容皝建立的国家为“前燕”。

段辽四面树敌，还多次派兵袭扰后赵的边境地区。慕容皝心生一计，他要借助外力，清除强敌。慕容皝派扬烈将军宋回向后赵称臣，请求石虎出兵讨伐段辽，慕容皝许诺他将举全国之力，和后赵并肩作战。为了表示诚意，他还把自己的弟弟、宁远将军慕容汗送到邺城做人质。石虎大喜，认为开疆拓土的机会又来了，盛情款待了宋回，回赠了丰厚的礼品，还把慕容汗又送了回去。石虎和慕容皝秘密约定，准备明年发兵。

咸康四年（338）正月，慕容皝派都尉赵槃（pán）出使后赵，商定讨伐段辽的具体日期。

石虎招募勇士三万多人，将他们全部任命为龙腾中郎。段辽得到消息不甘示弱，派堂弟段屈云主动进攻后赵的幽州，幽州刺史李孟不敌，撤至易京（今河北雄县）。石虎任命桃豹为横海将军，王华为渡辽将军，让他们率领十万水军由漂渝津（今天津市东）发兵；又任命支雄为龙骧大将军，姚弋仲为冠军将军，率领步骑兵部队共七万人为前锋，讨伐段辽。

三月，赵槃回到棘城，慕容皝当即率军进攻令支北部。段辽准备派军截击，慕容翰劝他道：“如今强大的赵军正从南方向我们杀过来，我们应当集中兵力迎敌。慕容皝这次亲自挂帅前来，士卒精锐，万一我们战败了，拿什么来抵御赵军呢？”

段兰一听大怒，说道：“我上次就被你误导，才有了今日之祸，你不要再多说了！”说完，他率领人马前去迎战。慕容皝以逸待劳，设下埋伏，就等着段兰入瓮，段兰没有识破，进入埋伏圈。慕容皝一声令下，燕军如猛虎下山一般，个个奋勇争先，段兰军大败，被杀死数千人，段兰狼狈逃命，慕容皝抢到五千多帐篷和数万头牲口，满载而归。

支雄是石勒当年起家时依靠的十八骑之一，勇冠三军，他率军顺利攻下蓟县，渔阳、上谷和代郡太守望风而降。这一次，支雄一连夺取四十多座城池。北平相阳裕率领治下百姓数千家退入燕山，构筑防御工事自保。后赵军准备攻击，石虎说道：“阳裕是个有文化的人，他不投降只不过是显示名节罢了，不会成什么气候的。”

后赵军继续前进，到达北平郡首府徐无（今河北遵化市东）。段辽这时候已经成惊弓之鸟，不敢出城应战。他来到慕容翰身边，握着慕容翰的手臂说道：“我不听你所言，才到了今天这个地步，是命该如此，可是也让你没有了安身立命之所，实在叫我羞愧不已。”

段辽带领妻子、宗族和治下豪强一千多家，舍弃令支，逃往密云山中。慕容翰也带领家眷、部属北去投奔宇文部落。

段辽刚走，他的左右长史刘群（刘琨之子）、卢谌、崔悦等人就封存仓库，向石虎投了降。石虎派将军郭太、麻秋率领两万轻骑兵追赶段辽，进入密云山后，捉住了段辽的母亲和妻子，杀死三千多人。段辽只身逃往山势险要的地方，派儿子段乞特真向石虎献上名马和降表，石虎接纳了。

石虎率军进入令支，论功行赏。他把段部的两万多户百姓强制迁徙安置到司州、雍州、兖州、豫州地区，其中那些有才能和德行的人，石虎也予以提拔使用。

阳裕走出燕山向石虎投降，石虎任命他为北平太守。

慕容翰到了宇文部落后，受到酋长宇文逸豆归的猜忌，慕容翰不得不装疯卖傻，才能求得平安。慕容皝知道慕容翰当初出走并不是真心情愿，而是因为误会所致，得知他在宇文部落的遭遇后，便派人秘密接回了他，摒弃前嫌，对他优待有加。