中国古代的帝王专制制度始于秦始皇，但只靠帝王一个人处理举国上下的大事小情，这显然是不现实的。于是在保持帝王至高无上的绝对权力之下，又慢慢设立了文武百官等大小职位。这其中，身居一人之下、万人之上的官职，当以丞相莫属。在封建时期，丞相的主要职责是协助皇帝处理国家朝政大事，其既是皇帝最为得力的助手，同时也会因为位高权重而面临着权力顶峰的危险。历史上，丞相把持朝政而把皇帝架空的事例并不少见。朱元璋自然不愿意这样的事情发生在大明，他更不会把自己手中的权力与其他朝臣共享。因此，朱元璋在对所有开国功臣严加防范之时，首先把着眼点放在集所有权力于一身的丞相胡惟庸身上。
洪武建号之后，胡惟庸被任命为中书省左丞相，这一职位堪称是王朝之内最高的行政长官。尽管其风头一时无两，却也因为树大招风而受到朱元璋的猜忌。这一日，朱元璋从西华门摆驾出宫，他本打算乘车前去胡惟庸的府邸叙旧，却在半路遇到一个人拦住了御驾。此人名叫云奇，是西华门内使宦官。一个小小的宦官敢当街拦住御驾，若不是有什么天大的事情，他也绝不会冒着杀头的危险如此莽撞行事。朱元璋命云奇从实招来，否则严加处置。
云奇一时被圣上龙威吓破了胆，忙把自己的所见所闻讲了出来。原来，丞相胡惟庸正在家中聚集重兵，他认为京城恐怕有大事发生。朱元璋听罢，本不愿意相信有这等事情，他急命人改变行程，转而下车登上了西华门城楼。胡惟庸的府邸距离西华门不远，朱元璋居高临下将胡府的情况看得一清二楚。只见胡惟庸家中早已有重重精兵埋伏在屏壁之间，朱元璋转念一想，自己去找胡惟庸本来是想叙旧，然而他却暗中伏此重兵，难不成想要谋逆造反？此事不想便罢，一经思考，朱元璋越发觉得胡惟庸早有预谋。
原来，朱元璋听胡惟庸禀告说，他家中有一口井竟然涌出了醴泉，他已经请能够预知天命的先生查验过，认为这是上天所降下的祥瑞之兆，意指当朝圣上治国有功，所以才有甘霖涌出以慰世人。同时，胡惟庸盛情邀请朱元璋亲临他的住宅去请奉天命，并声称此举可以招抚天下良才，并使大明基业千秋永固。听到有如此奇事，朱元璋自然十分高兴，于是才决定起驾前去胡惟庸的府邸参观神井，并与胡惟庸畅叙往日开国征战之旧情。然而，朱元璋的一番好心情此时却已经被全部打散。不论胡惟庸有没有造反之心，朱元璋此时已经认定这是胡惟庸布下的一场阴谋。朱元璋命人马上调集城中禁军，并将胡惟庸逮捕入狱。为了有足够的人证和物证，朱元璋还打算召见宦官云奇出面作证。但当找到云奇时，他已经气绝身亡，这便又为胡惟庸一众试图谋逆之事蒙上了一层疑云。
当朝很多官员在听说此事之后，都起了一些猜度之心。在惯常的印象中，胡惟庸已经是位高权重之人了，况且他还与当朝皇上有着戎马之谊，人们无论如何也想不出他谋逆的理由。然而在经过调查之后，朱元璋却更加相信胡惟庸的谋逆之心是早已有之。胡惟庸本是定远人，朱元璋派人前去定远调查后却收到了一则令人寝食难安的民间传闻。原来，胡惟庸老家的一口水井中忽然长出了石笋，并且井水无缘无故上涨数尺。当地有人传言说，夜间曾看到胡氏祖坟上红光冲天。民间百姓均认为这是上天降下的吉兆，预示着胡家将要出现一位权倾天下的人物。谋逆这件事，或许早在胡惟庸的心中埋下了种子。
然而，真正导致胡惟庸心有怨恨的事情，却是朱元璋对其儿子的惩处。胡惟庸的儿子有一次在京城大街上跑马踩死了人，朱元璋闻知此事后降下圣谕，称任何人在律法面前都是平等的。王公大臣若犯法，更要严加处理。前后两件事情结合起来，朱元璋更加坚信胡惟庸谋逆之事是确凿无疑的。在相关调查结束后，朱元璋最终还是对胡惟庸赐予了极刑。胡惟庸死后，朱元璋再不敢把手中的权力下放给任何一个朝臣，他决定朝堂之上从此不再设丞相一职，所有军国大事都必须由他亲自决定。而胡惟庸也因此而成为中国封建王朝历史上的最后一任丞相。
尽管此案以胡惟庸的死宣告结束，但时人以及后世学者对胡惟庸是否真有谋逆之心一直存有怀疑，并且朱元璋在定案时，他所谓的铁证也不过是对一些彼此之间毫无关联的事情的主观联想。胡惟庸虽然被处死了，却没有定下任何正式的罪名。于是，胡惟庸之死被人们解读成为朱元璋铲除功高盖主之臣子的一个手笔，朝堂之上的文武百官为了保住自己性命，再没有人敢对朱元璋的任何决定提出异议。
《明史》记载说，胡惟庸向来凭借朱元璋所给予的丞相大权而独断专横，不但强压许多政事不向朱元璋汇报，甚至在奖罚等事上完全凭个人喜好。官员们为了讨好胡惟庸，纷纷奔走其门下，胡府所收到的金银珠宝难以计数。胡惟庸的这些作为，恰恰触犯了朱元璋对权力的敏感心。因人君所忌而招致残杀，这恐怕是胡家三族一万五千之众最终被朱元璋处死的根本原因。
胡惟庸死后，有关他与蒙古人、倭人相勾结的证据陆陆续续被揭发出来，甚至到了朱元璋晚年时期，有关于胡惟庸试图谋反的罪证仍有曝光。究竟是胡惟庸当年确实有所不轨，还是朱元璋为了给自己的行为正名而进行的秘密操作，如今已经无法搞清楚了。
朱元璋在诛杀了胡惟庸后，彻底改变了沿袭了两千多年的丞相制度。丞相一职被淡出了政治体系后，吏、户、礼、兵、刑、工六部开始直接对皇帝本人的旨令负责，皇权也因此而呈现出史无前例的强大之态。
对于朱元璋本人来说，诛灭胡惟庸仅仅是他强化皇权的开始，他用尽一生的气力防范权臣。随着年纪渐长，朱元璋试图把所有权力都归到自己手中的心态越来越严重。为了给朱姓子孙留下一个安全的王朝，他沉迷在对朝廷官员的生杀予夺中无法自拔。