与此同时，大明建立之初所面临的严峻形势也使得朱元璋不敢放松。元朝虽然被打败，但是由于朱元璋对形势的估计不足，导致元朝虽败而不亡，元朝残余势力的实力依然十分强大，并且盘踞在漠北高原，对明朝的北部边防造成很大的威胁。除了外患的存在，明朝建立后的内部形势也不是很乐观。

首先，由于长期的战争动乱，造成人口锐减，大量土地变成无主荒地，人民流离失所；其次，白莲教等民间组织十分活跃，并且时不时就搞个暴动，朱元璋自己就是明教起家，对这种打着民间宗教旗帜的造反活动那是相当有体会的，同时地方上的豪强们也开始故态萌生，尤其是江南地区的地方豪强们不仅大量兼并土地，还试图偷税漏税；再次，朱元璋发现从中央六部到地方衙门都兴起了一股贪墨之风，并且涉及了许多官员，其中既有从元朝那边投降过来的官员，又有大明朝建立后新提拔的官员，在贪污腐败问题上他们达成了高度的一致；最后，御史台本来是皇帝的耳目，专门负责监察各级官员和天下百姓的，但是其中官员的表现却多不称职。

比如洪武二年，朱元璋派监察御史谢恕去巡查松江，结果谢恕一口气抓了一百九十多人，罪名都是“欺隐官租”，就等于今天的偷税漏税，结果把这些人押送到京师之后，有一半以上的人都宣称自己是冤枉的。针对这一情况，治书侍御史文原吉急忙上书朱元璋对这一情况进行汇报。随后，朱元璋亲自召见其中的几个人进行询问，结果发现果然是冤枉的。于是在询问结束后，便召见谢恕对其进行了严厉的指责，在指责的过程中也表现了朱元璋对监察官员的期待。

朱元璋本来是希望他们作为“耳目之官”，能够了解事情的是非曲直，明辨是非，不能冤枉无辜之人，但是现在这帮官吏诬陷人倒是一套一套的，长此以往，朝廷的信用还要不要了，养这帮人还有什么用啊。最后的处理结果是把所有百姓全部释放，并且对谢恕贬职处理，对文原吉则进行了赏赐。要知道朱元璋本来就生性多疑，这件事的发生，已经使得朱元璋对御史台的信任大打折扣，而且这种事情下次要是再发生怎么办，不能每次都得皇帝亲自上场吧。

除了这些大的形势上的困境之外，朱元璋还面临着部分地主阶级和下层平民对其身份的质疑和不认同，尤其是江南地区的人们，此前这片区域是由张士诚统治的，而且张士诚还治理得不错，因而当地不少民众认同张士诚，这令在江南地区建都的朱元璋很不放心。民间传闻，朱元璋曾微服到京城之中行走，竟然听到一老太太在和他人交谈时称自己为“老头儿”，不由勃然大怒，紧急召唤维持地方治安的军官质问道：“张士诚当年窃据江东，吴地的老百姓们现在还称呼其为张王。如今我是天子，这里的人们却叫我老头儿，这是为何呢，看不起我朱元璋吗？”当场下令对这一事件进行严查，既然皇帝都发话了，那必须要给个交代啊，于是官兵便展开了一轮轰轰烈烈的大清查，这导致许多百姓被当成歹人，因此被抄家示众。还有就是当年朱元璋因“淮西女人好大脚”的灯谜，直接在上元节（即元宵节）的第二天将可能涉及这则灯谜的居民全部斩杀殆尽。尽管上面这两则故事都充满戏剧性，很难让人相信这是真实发生过的。但是这两则故事却都出自明代士大夫之手，也在一定程度上反映了当时的社会现实，即明初的社会矛盾是相当激烈的。

可以说正是在这样的情况下，朱元璋感到很不安心，为此越发地觉得自己需要建立一个新的机构来对自己的臣民百姓进行监管，这样一来不仅能够巩固新生的大明政权，也能加强中央集权，还能进一步确立自己的皇帝权威。于是，在洪武十五年（公元1382年），朱元璋正式向世人公布了其所建立的特务组织——锦衣卫。事实上，锦衣卫并不是凭空出现的，而是一步步发展起来的。早在朱元璋还是吴王的时候，就成立了拱卫司，该机构主要负责统领校尉（武官官职），并且隶属于都督府，后来名称由拱卫司改为拱卫指挥使司，又改称都尉司。洪武二年的时候，朱元璋正式对拱卫司进行收编，将其改为亲军都尉府，其不再隶属于都督府，而是直接归朱元璋管辖，也就正式成为皇帝亲军。

此时的亲军都尉府负责管理左、右、中、前、后五卫军士（侍卫），并且下设仪鸾司（仪仗）。洪武十五年（公元1382年），朱元璋撤销仪鸾司，设置锦衣卫亲军指挥使司，同时把亲军都尉府的侍卫功能也并入了锦衣卫之中。不过在这里要指出的一点是，虽然现在都锦衣卫被看作是朱元璋成立的庞大特务组织，但事实上锦衣卫属于根正苗红的卫所，属于“上十二卫”之一，也正因此，锦衣卫中的各级官职基本上都和卫所制度下的各级官职吻合，毕竟怎么说锦衣卫也属于卫所制度中的一员，只是地位要高一些，不归五军都督府管辖，而是直接由皇帝亲自控制。只不过随着后来锦衣卫“恶名远扬”，再加上其所处理的事件的特殊性，使其也开始带有一些特务性质了，所以慢慢地锦衣卫也被看作是特务组织了。

说起锦衣卫的职能，大家可能想到的就是锦衣卫四处出动，神出鬼没，到处抓人，似乎这就是锦衣卫的唯一职能了。事实上，这只是锦衣卫的一项职能，当然这是最重要的职能。但是除了这项职能外，锦衣卫还拥有其他职能。

首先，便是仪仗队功能。在上面已经提到，锦衣卫是在朱元璋整合亲军都尉府和仪鸾司的基础上正式形成的。其中亲军都尉府主要负责的便是侍卫，而仪鸾司主要负责的则是仪仗，锦衣卫是在它们的基础上形成的，也就相应的把它们的职能一同给吸收了进来，从而也拥有了仪仗侍卫职能。可以说，每次朝廷举行郊祀、经筵及巡幸等重大礼仪活动时，锦衣卫都要参与进去，朝廷会在锦衣卫中选拔相貌俊美、身高出众的青年锦衣卫。一方面要侍卫在皇帝左右，随时听候皇帝的差遣，另一方面也要进行仪仗工作，比如布置现场、抬抬神主牌。并且锦衣卫除了侍卫皇帝之外，皇亲也是他们的侍卫对象，甚至亲王们要离开京城到自己的封地上时，锦衣卫都要安排专门的人手陪同前往。

其次，便是巡查缉捕的职能，俗称“特务”，这也是大家最为熟悉和锦衣卫最为重要的职能。可以说，朱元璋设立锦衣卫就是要让其发挥巡查缉捕的职能。由于朱元璋对朝廷官员的不信任，锦衣卫主要侦缉的对象就是朝廷中的高官，其侦缉范围则主要是在京师及其周边地区。一旦侦缉到官员有违法行为或者直接威胁到了皇权统治，这时锦衣卫中高级官员便会在朝堂上进行弹劾。洪武四大案（即胡惟庸案、“空印案”、郭桓案、蓝玉案）中均可发现锦衣卫活动的身影，其中蓝玉案更是直接由锦衣卫指挥蒋瓛告发蓝玉谋反。之后随着历史的发展，锦衣卫的侦缉范围和侦缉内容也逐渐发生了变化，慢慢在扩大。除了侦缉群臣之外，锦衣卫还负责捕盗，以及负责京城的治安。由于京城人口众多，仅仅依靠五城兵马指挥司来负责京城及其周边地区的治安工作，会有些“心有余而力不足”，在这种情况下，锦衣卫的出现就很好地弥补了这一缺点。事实上，除了负责京师及其周边地区的治安工作外，锦衣卫有时还会被派遣至外地抓捕盗贼。洪武二十五年（公元1392年），朱元璋就曾派遣锦衣卫指挥陶幹、锦衣卫力士曲连及薛才三人一同前往河南地区抓捕盗贼。

第三，便是司法职能。朱元璋在成立锦衣卫时，还在锦衣卫中设立了锦衣卫狱，也就是大名鼎鼎的诏狱。当时，里面关押的主要是官员，他们基本上都是因为某些原因触怒了皇帝，从而被下令关至诏狱，听候皇帝的最终发落。除了负责诏狱外，锦衣卫还负责廷杖工作。明朝第一个被廷杖的大臣是茹太素，受廷杖的时间是洪武八年（公元1375年），受廷杖的原因则是其在给朱元璋的上书中有一句话是说“才能之士，数年来幸存者百无一二，今所任率迂儒俗吏。”朱元璋一看顿时不高兴觉得茹太素这是在指责自己任人不明，然后带着这个印象，此后读茹太素的上书，越读就越觉得这个人出言不逊。于是，朱元璋直接将茹太素招来，先是质问他一番，然后直接拉出去打板子。从此，便正式开启了大明朝堂上的廷杖。后来锦衣卫正式成立，就由锦衣卫专门来负责行刑。

第四，其他职能。除了上面所列举的职能外，锦衣卫还具备一些其他职能，比如外交职能。比如洪武二十五年（公元1392年）有外邦准备来大明进贡，朱元璋觉得人家这么大老远来一趟太不容易了，还得走到江南地区，当时道路又不便，经常容易水土不服，所以就派锦衣卫指挥使张政去慰劳他们，还赏赐了许多礼物。从此之后，锦衣卫就经常被外派到其他各国处理外交事务。

以上便是朱元璋设置锦衣卫后，锦衣卫在其一朝主要的职能。之后，随着历史发展，锦衣卫的职能有所扩充，但也是在这些职能的基础上进行扩充的。可以说，锦衣卫在初创之时的确特别风光，但是这种风光并没有持续很长时间。锦衣卫的设立是由于明初朝廷内外出现不作为的风气，导致国家的行政效率低下，而且腐败之风日益盛行。因此，明太祖为了巩固皇权，也是为整肃吏治，保持“国家机器”的有效运行，于是设立了锦衣卫。当时，明太祖给予锦衣卫的权力很大，使其在明初“法制不健全”的情况下，发挥了很大的作用，很好地扼住了这股歪风。后来，随着《大明律》《大诰三编》的颁布，明朝的法制已经健全了，皇帝的权威也树立了，明太祖不再需要锦衣卫的辅助。并且由于锦衣卫直接触及朝廷官员的核心利益，因此锦衣卫刚设立，便有大臣提出反对意见和质疑。特别是锦衣卫内部设立诏狱开始插手刑狱一事，更是引起了朝中多数大臣的反对和质疑。再加上锦衣卫自身在审理犯人的时候的确存在严刑拷打的情况。结果发展到最后，连朱元璋都知道锦衣卫用刑过严了。

于是在洪武二十年（公元1387年）的时候，朱元璋下令将锦衣卫内的刑具全部焚毁，将锦衣卫内囚犯全部移交给刑部处理。到了洪武二十六年（公元1393年）的时候，朱元璋更是进一步规定一切案子都要经过司法部门（刑部、都察院、大理寺等）处理，锦衣卫不得擅自做主，这就进一步削弱了锦衣卫的权力，甚至可以说使得锦衣卫元气大伤。原来锦衣卫既可以抓人，又可以审人，结果到了现在锦衣卫只能抓人，并且抓了人之后不能审理，由刑部、都察院、大理寺等专门的法司机构来审理。这样一来，锦衣卫和衙门里的捕快没有什么区别。

自此以后，锦衣卫在洪武一朝的政治上开始衰落，逐渐淡出政治舞台。事实上，朱元璋之所以选在洪武二十六年（公元1393年）大力打压锦衣卫，原因便是朱元璋的政治目标基本上已经实现。洪武二十六年（公元1393年）蓝玉案爆发，同年蓝玉案结束，朱元璋利用此次事件，基本上把他认为会威胁到老朱家天下的大臣们屠戮一空，同时皇权至高无上的地位也已经得到真正的确立。但是朱元璋也明白，随着洪武四大案的接连发生，手下的大臣们难免会有怨言和不满，如果不让他们发泄出来的话，可能也会产生不良影响。正好锦衣卫都参与了四大案，这时将他们推出去当替罪羊是最好不过的，就这样锦衣卫成了“飞鸟尽，良弓藏；狡兔死，走狗烹。”等到了建文朝的时候，由于建文帝崇信儒家礼法，大力减轻刑罚，导致锦衣卫更是彻底被闲置起来了，基本上不再参与政治活动了。