公孙瓒，字伯珪，辽西令支（今河北迁安西）人。他虽然出身于二千石的名门望族，但因其母身世卑贱，故青年时只做了郡丞书佐（秘书）的小官，很不得意。但他聪慧锐敏，又是一表人才，因此得到辽西郡侯太守的赏识，做了侯门女婿。侯太守介绍公孙瓒到涿郡大名士卢植门下读经，在那里结识了刘备。两人同窗，情同手足。这一渊源对于两人后来的经历，都有极大的影响。

公孙瓒完成学业后归郡做了郡吏。汉末清议盛行，士人注重名节。公孙瓒的顶头上司刘太守坐事下狱，在押送京师洛阳途中，公孙瓒亲自驾车护送。刘太守被判充军日南（今越南北部），公孙瓒具办酒食，在洛阳北芒山下为太守饯行，替他祭祀祖先，慷慨激昂，于是获得好名声，被举为孝廉，提升为辽东（今辽宁南部、东部）属国长史，带兵御边。

公孙瓒颇有勇力，敢于冲锋陷阵。一次巡行边境，他率数十骑与数百鲜卑骑兵狭路相逢，只得退入空亭中。他向左右大呼：“我们若不一鼓作气冲出去，那就全都要困死在这里。”他带头向胡骑猛冲，重创数十人，杀开一条血路，突围而去。自此，鲜卑不敢轻易入塞侵扰。事后，公孙瓒被提升为涿（今河北涿州）县令。

在征伐塞外少数民族时，公孙瓒常骑着浑身雪白的高头大马，身先士卒，奔驰于草原。他每战必胜，久而久之，乌桓、鲜卑都尝到了骑白马者的厉害，互相转告：“若有骑白马者追来，一定赶快避开，否则性命难保。”既然乌桓、鲜卑害怕白马，公孙瓒为了加强对他们的威慑作用，专门精心挑选白马数千匹，由剽悍骑士组成一支战斗力极强的骑兵队伍，号曰“白马义从”。每次征战，一声令下，沉寂的塞外高原喊声震天，尘土飞扬，白压压一片铺天盖地而来。乌桓、鲜卑兵士闻风丧胆，逃之夭夭。于是，公孙瓒威名大振。

中平四年（187），乌桓首领丘力居同东汉叛将张纯、张举结成同盟，举兵南犯。他们洗劫了蓟城（今北京大兴区），先后杀掉乌桓校尉公綦稠、右北平（今河北平泉）太守刘政、辽东太守阳终。叛军气焰嚣张，拥兵十万余众，驻扎肥如（今河北卢龙）。张举自称天子，张纯自称弥天将军、安定王。叛军分兵侵扰青、徐、幽、冀四州，所到之处，官军望风披靡，青、徐黄巾也趁势复起。形势紧急，东汉朝廷下诏命公孙瓒率兵征讨，诏发南匈奴兵阻击。中平五年（188）十一月，双方激战于石门山（今辽宁朝阳东南）。公孙瓒的“白马义从”似一片飞云从天而降，杀得叛军落荒而逃。张纯连妻子也顾不得，出走塞外。公孙瓒乘胜追击，孤军深入，反被丘力居围困于辽西管子城达二百余日。一无援兵，二无粮食，兵将纷纷逃散，士卒死者十之五六。在严峻的形势下，公孙瓒毫不气馁，沉着应敌，迫使丘力居撤兵离去。由于“石门之役”，公孙瓒被提升为降虏校尉，封都亭侯，兼领属国长史之职。这时，朝廷派宗室刘虞为幽州牧，镇抚北疆。刘虞遣使与乌桓、鲜卑结和，乌桓杀张纯，并送首级于刘虞。朝廷拜刘虞为太尉（虚衔），封襄贲侯。公孙瓒志在灭乌桓，而刘虞力主同乌桓结和，二人政见不合，于是成为仇敌。公孙瓒是刘虞下属，他只得咽下这口怨气，等待时机。