隋朝本身延续的时间就不长，满打满算也只有四代，共三十八年，而提起隋朝，人们又大多只记得开凿大运河、三次下扬州的隋炀帝杨广，对于在位二十四年的开国之君，那位才能出众、政绩卓著的隋文帝，反而知之甚少。

隋文帝杨坚出身关中豪门世族弘农杨氏，他的祖上曾经出过西汉的丞相、东汉的太尉和北魏的司马。到了杨坚的父亲杨忠这一辈，正值南北朝时期，中国南方经历了宋、齐、梁、陈四个朝代，而北方则从北魏到东魏、西魏，再到北齐、北周。

杨忠在北周文帝宇文泰还是西魏权臣时，就是其手下的得力干将。公元557年，宇文泰的儿子宇文觉废掉西魏恭帝自立，建立了北周。作为北周的开国重臣，杨忠多次率军打败老对手北齐的军队，攻取二十多座城池。这样的大将自然会受到重用，他出任柱国大将军等要职，还被封为随国公。

杨坚是杨忠的长子，传说他出生的时候“紫气充庭”，其母吕氏还梦到有青龙在腹中盘踞。杨坚生下后，目光明亮，手中还有一个奇诡的“王”字。

这些当然都是后来的迷信附会之说，不过杨坚长相奇特，这大概是真的。据说南朝陈后主见到他的画像后非常害怕，连说不想当面见到此人。

杨坚小时候就显示出与众不同的气质。他性格深沉，少言寡语，特立独行，以至于后来进入太学读书的时候，即使是跟他十分亲密的人也不敢随便戏弄他。不过，当时手握西魏朝政大权的宇文泰看见少年杨坚，倒是因此对他赞不绝口。

因为父亲功劳显赫，杨坚十五岁就被授为散骑常侍、车骑大将军，十六岁时又被西魏恭帝拓跋廓封为骠骑大将军。同时，杨坚娶了北周重臣、在西魏时期就是军事贵族的“八柱国”之一独孤信的女儿为妻，身份地位愈加显赫。

公元568年，杨忠去世，二十七岁的杨坚承袭了随国公的爵位。北周武帝宇文邕将杨坚的长女杨丽华聘为皇太子妃，与杨坚成了儿女亲家，此后对他更是器重有加。

齐王宇文宪曾经对宇文邕说：杨坚的相貌非同寻常，我担心他不会久居人下，必须尽早除掉他。内史王轨也对宇文邕说：杨坚貌有反相，将来皇太子宇文赟很可能被他取代，做不成社稷之主。但宇文邕听了却很不高兴：帝王自有天命在，旁人又能奈何！杨坚听说这些事情后十分害怕，从此行事更加小心，谨言慎行，以免遭到猜忌。

但有才之人的光芒是遮不住的，况且此时北周正是用人之际。在北周消灭北齐统一北方的战争中，杨坚曾率领三万水军在河桥大败北齐的军队，也曾跟从周武帝亲征，功劳卓著。