建文元年(公元1399年)六月,燕王军队中的一名百户倪谅告发燕王谋反,齐泰将燕王使者邓庸下狱,大刑之下,邓庸招认燕王有谋反的行为。齐泰立即下令张昺逮捕了燕国护卫中的军官于谅、周铎,并处死了他们。朱允炆下诏严厉斥责燕王,并派太监来到北平,逮捕了燕王府的僚属。齐泰给张信写密信要他逮捕燕王,不料张信早已投降朱棣,成为他的心腹。朱棣得信后,放出消息称自己病已非常严重,随时可能死去,暗地里却加强了起兵的准备。七月,燕王朱棣令张玉、朱能引八百死士隐匿在端礼门,诱骗张昺、谢贵入门后,一举将二人擒杀。
随后,张玉、朱能引八百死士趁夜攻击北平九个城门的城防守军。守军无人指挥,乱成一团,很快被张玉、朱能率领的死士突破了防守。而朱棣在北平掌军已久,士兵们素来服其威望,故纷纷放下武器,投降燕军,战斗显得并不激烈。朱棣兵不血刃轻而易举地占领了九门,北平落入燕王之手。参政郭资、副使墨麟、佥事吕震等大批官吏投降,不肯臣服于朱棣的长史葛诚、指挥卢振、教授余逢辰等被当场处死。指挥马宣逃往蓟州,俞瑱逃到居庸关,宋忠正在前往北平的路上,听说北平燕王叛乱后退保怀来。
朱棣上书天子,指齐泰、黄子澄为奸臣,奏书中引用《皇明祖训》说:“朝中没正直的大臣,尽是奸恶之辈,燕王训练兵士以待天命,接到天子密诏,将率诸王讨平天子身边的奸佞,以清君侧!”奏书发出之日,朱棣就自己任命官署官员,誓师起兵,并将此次出师称为“靖难”。燕兵一出,不到二十天相继攻陷蓟州、居庸关、怀来、遵化。马宣、宋忠、俞瑱、彭聚、孙泰等守将战死,通州、遵化、密云和永平的守将投降,至此,燕军兵力已经达到数万人。一场历时四年的“靖难之役”,慢慢拉开了序幕。