开皇二十年(600)十一月戊子(初三),对晋王杨广来说，是其人生历程中值得纪念的日子，他如愿以偿地被册立为大隋王朝的皇太子。为了显示自己的节俭和谨慎，投其父皇之所好，杨广请求免穿礼服，东宫的臣僚对太子不自称臣，隋文帝欣然应允。已届晚年的隋文帝这时更加相信佛道鬼神，这个月国内正遭地震，这似乎昭示着不祥，隋文帝对此忧心忡忡，因而命杨广先到长安附近的大兴县居住，说：“吾以大兴公成帝业。”他希望次子杨广也能以大兴而继承帝业。
仁寿元年(601)正月乙酉(初一)这一天，隋文帝下诏任命尚书右仆射杨素为尚书左仆射，正式担任第一宰相，纳言苏威继任右仆射。丁酉(十三日),改封杨广的长子河南王杨昭为晋王，并任内史令，以杨广次子豫章王内史令杨昧调任扬州总管，接替其父坐镇江都。后又以观德王杨雄之弟杨达为纳言，组成新的宰相班子。
新班子中苏威棱角早已磨得平平，已起不到什么政治作用，朝政大权实际上独揽于杨素一人之手。时杨素贵盛“近古未闻”,他又将才学之士牛弘、薛道衡拉入宰相班子，虽无宰相之名，却均掌机要参与决策。特别是内史侍郎薛道衡更受杨素推重， “久当枢要，才名益显”, “声名籍甚，无竟一时”,禁内诏书多为薛道衡起草，隋文帝常说： “薛道衡作为文书称我意。”由于薛道衡文才出众，皇太子杨广也仍旧没有停止对这样有才之士的拉拢，对牛弘则更是互相常有诗书唱和，往来不绝。仁寿初年，以杨素为首的宰相班子，实际上是听命于杨广，而不是听命于隋文帝。
皇太子杨广也开始组建自己的政治集团，组建东宫官属。杨广的东宫官属基本上是江都晋王府亲信府僚，他先要求将心腹宇文述调任太子左卫率，又任原督晋府军事的于仲文任太子右卫率，以张衡为太子左庶子，郭衍任太子左监门率，后转太子左宗卫率。段达任太子左卫副率，吐万绪任太子虞候率。原江都晋王府文学柳警等人也因原晋王成了太子，他们也随之摇身一变，成为“东宫学士”,柳普更升任检校太子洗马，同样受到皇太子杨广“亲狎”。杨广还将原杨勇的东宫学士姚察等人召到自己门下， “访以文籍”。而与自己不同心的藩邸旧臣则被疏远甚至鸩杀。如原总晋王府军事扬州总管司马的李彻，因素与高颖“相善”,被隋文帝疏忌闲居在家，杨广将他召至家中赐宴， “言及平生”,结果“遇鸩而卒”。
仁寿二年(602)八月己巳(二十四日),独孤皇后去世，享年五十八岁。这对刚当上皇太子不久的杨广来说，的确是不祥之事。旧史记称太子杨广当着父皇和宫人的面悲恸欲绝，但在自己府内却谈笑如常，事实上，恐未必如此。杨广不可能不爱母后，对母后支持自己夺嫡成功他感激不尽，虽然严厉的母后在世时凡事都在其的监督之下，自己必须矫饰应付，但独孤皇后是杨广的政治靠山，是其阴谋夺储的主要支持者，她一死，杨广不但失去了政治上的坚强后盾，而且将直接面对来自各方面的反对势力，这样他能否顺利嗣位，也成了问题。
皇后死后，为了加强对杨勇的管制，隋文帝干脆将他交给杨广，幽禁于东宫。杨勇逐渐明白自己被废的真相，要求面见父皇申诉，却被杨广遏止。杨勇无奈只好爬上大树，大声呼喊叫冤，声音传到隋文帝寝殿，杨勇希望父皇听到喊冤声能接见他。为此隋文帝询问杨素，杨素说杨勇已情志昏乱，有疯鬼附身。隋文帝既对杨勇伤心已极，信以为真，也不想再见到杨勇了。杨勇对杨广已构不成什么威胁。
但对杨广皇嗣地位的威胁还有同胞弟弟，特别是桀骜不驯性情耿直的四弟杨秀和幼弟杨谅，他们得知大哥被废十分震惊，对二哥的阴谋夺嫡极表反感。
蜀王杨秀坐镇西南已二十年，虽然在开皇末年受到其父猜疑和监视，但仍在竭力组织自己的势力集团。对于二哥杨广的夺储他“意甚不平”,于是加紧了应变及日后叛乱的准备，并私通父皇身边的右卫大将军元胄，以为党援。正如隋文帝所预言，父皇在位，杨秀不敢有异动，但隋文帝一死，他绝不肯臣服于杨广，必然会发动叛乱。杨广也清楚这一点，他恐杨秀“终为后变”,于是暗中指使杨素搜求杨秀罪过，常在父皇面前诬陷诋毁。隋文帝早已对杨秀的作为极表不满，经杨素一说，遂于仁寿二年(602)七月下诏征杨秀回京。
杨秀接到诏书十分犹豫，想以有病为由推辞不行，总管司马源师来劝他，杨秀脸色一变厉声说： “此自我家事，何须卿也。”源师流着眼泪苦谏： “我被任为王府幕僚，怎敢不尽心竭力?皇上有敕追究您，已有很久，若仍迁延不去，朝廷内外猜疑骇惧，圣上震怒，再来追究，大王又如何申辩?”隋文帝恐杨秀生变，于是在七月戊子(十二日)任命独孤楷为益州总管，乘驿驰至成都接替杨秀。独孤楷到后，杨秀仍不肯成行，又经独孤楷的苦心劝导，杨秀才上路。但独孤楷察觉杨秀有反悔之意，忙部署军队做应变准备。果然，杨秀起程才走了四十余里，在路上自思前途未卜，又打算返回成都袭击独孤楷，他先派人回城探视，知独孤楷已有准备这才作罢。
杨秀回到长安时母亲独孤氏刚去世不久，葬于太陵。隋文帝见到杨秀时一脸的严肃，不与言语。次日，又派使者来严词责备。这之后，杨秀再见父皇，畏惧万分，叩头谢罪，太子杨广则虚情假意地为杨秀说情，其他几个皇子则在旁流泪。隋文帝怒气未消，大吼道： “往日秦王靡费，我曾以父道训斥他，今日杨秀蠹害生民，我当以君道来绳治他。”于是将杨秀交由司法部门议处，有人劝谏文帝念及骨肉，不要处罚蜀王，隋文帝则勃然大怒，要割掉他的舌头，并厉声对群臣说： “应当将杨秀推于闹市斩首，以谢百姓。”于是命杨素、苏威、柳述等人对杨秀穷追治罪。
此时，太子杨广虽假意为四弟开脱说情，但他知道父皇一旦气消原谅了杨秀，杨秀就有可能东山再起，成为与自己争夺皇位的劲敌。为了就此置杨秀于死地，必须加重杨秀的罪状，于是杨广又暗中与杨素精心策划，制造大狱。他们知道隋文帝相信鬼怪巫术，杨广暗中制作木偶人，捆住手脚，用针钉住其心，带上枷锁，并写上隋文帝及汉王杨谅的姓名，还写上“请西岳慈父圣母收杨坚、杨谅神魂，如此形状，勿令散**”。又派人秘密将木偶人埋在华山脚下。然后，诬陷杨秀狂妄地自称应图谶，宣称京师有妖异怪状，造谣说蜀地征瑞吉祥，并写了一则檄文曰“逆臣贼子，专弄威柄，陛下唯守虚器，一无所知”。自陈蜀中甲兵之盛，要“指期问罪”,发动叛乱。这些谋逆的材料都收到伪造的杨秀文中。
杨素又装模作样地搜出了文集，并据文集所提供的“线索”,假戏真做地来到华山脚下，发掘出预先埋好的木偶人，于是“铁证如山”,全部交到了隋文帝手中。见到这些“确凿罪”证，隋文帝当然为之震怒，叹曰： “天下宁有是耶!”于是重治杨秀，十二月癸巳(二十日),下诏罢杨秀王爵，废为庶人，幽禁于内侍省，不得与妻子相见，仅给两名僚族女婢照应生活起居。受牵连的蜀王党羽百余人，也都受到严厉处罚。如右卫大将军元胄及杨素的政敌治书侍御史河东柳或，并除名为民。隋文帝又派司农卿赵仲卿往益州穷查杨秀党羽，益州官属除源师外多相连坐。河东柳俭“在职十余年，民夷悦服”,也被免职回乡里， “妻子衣食不赡”。
当时杨素一手遮天，像诬陷太子杨勇一样诬陷蜀王杨秀。隋文帝盛怒之下，除一味相信之外，便是严厉惩处了。而杨秀既遭“幽逼”,却愤懑不知所为”。多亏了大姐杨丽华护持，史称“蜀王得罪，帝将杀之，乐平公主每匡救，得全”。哥哥杨勇被废时只求保全性命，杨秀被废时上表则只求开恩，希望能与爱子相见。
这样，阴谋家杨广不动声色，由杨素出面，诋毁诬陷，借父皇之手，又除掉了一个争夺皇位的对手，这对杨广来说当然是一个不小的胜利。
杨广的幼弟汉王杨谅这时坐镇并州，当然也是杨广的竞争对手。杨谅受到父皇的特别宠爱，大哥杨勇被谗废，二哥杨广夺得皇太子位，对年轻的杨谅刺激很大，于是“居常怏快，阴有异图”。四哥蜀王杨秀又被废，更使他“愈不自安”,预感到下一个遭殃被废的将轮到自己，于是暗中做应变准备。杨谅总管五十二州诸军事，自崤山以东，至于沧海，南至黄河北至塞，尽归他统领，所居乃天下精兵之处，他借口防御突厥，上书父皇“突厥方强，太原即为重镇，宜修武备”,得到父皇批准。于是招兵买马，缮治器械，收纳亡命，准备父皇一死即以武力争夺帝位，夺位不成则复高齐之旧。皇太子杨广当然明白幼弟的用心和阴谋，但因父皇对杨谅十分宠爱信重，杨广已连续除掉了一兄一弟，不便再对幼弟下手。