由于历史包袱的继承，皇权的逐步提高，隋唐以来的官僚机构，以巩固皇权为目的的三省制度——中书省出命令，门下省掌封驳，尚书省主施行——中书官和皇帝最亲近，接触机会最多，权也最重。宋代后期，门下省不能执行审核诏令的任务，尚书省官只能平决庶务，不能与闻国政，三省事实上只是一省当权。到元代索性取消门下省，把尚书省的官属六部也归并到中书，成为一省执政的局面。地方则分设行中书省，总揽军民大政。其下有路、府、州、县，管理军民。
三省制的形成有它的历史背景和原因，就这制度本身而论，把政权分作三份，一个专管决策，一个负责执行，而又另有一个纠核的机构，驳正违误，防止皇权的滥用和官僚的缺失，对巩固皇权，维持现状的意义上说，是很有用的。可是，在事实上，官僚政治本身破坏了瘫痪了这个官僚机构，皇权和相权的冲突，更有目的地摧毁了这个官僚机构。
官僚政治特征之一是做官不做事，重床叠屋，衙门愈多，事情愈办不好，拿薪水的官僚愈多，负责做事的人愈少。例如从唐以来，往往因事设官：尚书省原有户部，专管户口财政，在国计困难时，政府要张罗财帛，供应军需，大张旗鼓，特设盐铁使、户部使、租庸使、国计使等官，由宰相或大臣兼任，意思是要提高搜括的效率，可是这样一来，户部位低权轻，职守都为诸使所夺，便变成闲曹了。兵部专管军政，从五代设了枢密使以后，兵部又无事可做了。礼部专掌礼仪，宋代却又另有礼院。几套性质相同的衙门，新创的抢了旧衙门的职司，本衙门的官照例做和本衙门不相干的事，或者索性不做事。千头万绪，名实不符，十个官僚有九个不知道自己的职司。冗官日多，要官更多，行政效率也就日益低落。到元代又添上蒙古的部族政治机构，衙门越发多，越发庞大，混乱复杂，臃肿不灵，瘫痪的病象在显露了。
而且就官僚的服务名义说，也有官、职、差遣之分。官是表明等级、分别薪俸的标识，职以待文学侍从之臣，只有差遣是“治内外之事”的。皇家的赏功酬庸，又有阶、勋、爵、食邑、功臣号等名目。以差遣而论，又有行、守、试、判、知、权知、权发遣的不同。其实除差遣以外，其他都是不大相干的。皇权和相权的矛盾：例如宋太宗讨厌中书的政权太重，分中书吏房置审官院，刑房置审刑院。为了分权而添置衙门，其实是夺相权归之于皇帝。皇帝的诏令照规矩是必须经过中书门下，才算合法，所谓“不经凤阁鸾台，何谓之敕？”用意是防止皇权的滥用。但是，这规矩只是官僚集团的规矩，官僚的任免生杀之权在皇帝，升沉荣辱甚至诛废的利害超过了制度的坚持，私人的利害超过了集团的利害。唐武后以来的墨敕斜封（手令），也就破坏了这个官僚制度，摧杀了相权，走上了独裁的道路。
朱元璋继承历代皇权走向独裁的趋势，对官僚机构大加改革，使之更得心应手，为皇家服务。
元代的行中书省是从中书省分出去的，职权太重，到后期鞭长莫及，几乎没法子控制了。朱元璋要造成绝对的中央集权，洪武九年（1376年）改行中书省为承宣布政使司，设左右布政使各一人，掌一区的政令。布政使是朝廷派驻地方的代表、使臣，禀承朝廷，宣扬政令。全国分浙江、江西、福建、北平、广西、四川、山东、广东、河南、陕西、湖广、山西十二布政使司，洪武十五年（1382年）增置云南布政使司。布政使司的分区，大体上继承元朝的行省，布政使的职权却只掌民政财政，和元朝行中书省的无所不统，轻重大不相同了。而且就地位论，行省是以都省的机构分设于地方，布政使则是朝廷派驻的使臣，前者是中央分权于地方，后者是地方集权于中央，意义也完全不同。此外，地方掌管司法行政的另有提刑按察使司，长官为按察使，主管一区刑名按察之事。布按二司和掌军政的都指挥使司合称三司，是朝廷派遣到地方的三个特派员衙门。民政、司法、军政三种治权分别独立，直接由朝廷指挥，为的是便于控制，便于统治。布政司之下，真正的地方政府分两级，第一级是府，长官为知府；有直隶州，即直隶于布政使司的州，长官是知州。第二级是县，长官是知县；有州，长官是知州。州县是直接临民的政治单位。
监察机关原来是御史台，洪武十五年改为都察院，长官是左右都御史，下有监察御史一百十人，分掌十二道（按照布政使司政区分道，后增为十三道）。职权是纠劾百司，辨明冤枉，凡大臣奸邪，小人构党作威福乱政，百官猥茸贪污舞弊，学术不正，和变乱祖宗制度的，都可随时举发弹劾。这衙门的官被皇帝看作是耳目，替皇帝听，替皇帝看，有对皇权不利的随时报告。也被皇帝看作是鹰犬，替皇帝追踪、搏击一切不忠于皇帝的官民，是替皇帝监视官僚的衙门，是替皇帝检举反动思想、保持传统纲纪的衙门。监察御史在朝监视各个不同的官僚机构，派到地方的，有巡按、清军、提督学校、巡监、茶马、监军等职务，就中巡按御史算是代皇帝巡狩，按临所部，大事奏裁，小事立断，是最威武的一个差使。
行政军事监察三种治权分别独立，由皇帝亲身总其成。官吏内外互用，其地位以品级规定。从九品到正一品，九品十八级，官和品一致，升迁调用都有一定的法度。百官分治，个别对皇帝负责。系统分明，职权清楚，法令详密，组织严紧。而在整套统治机构中，互相钳制，以监察官来监视一切臣僚，以特务组织来镇压威制一切官民。都督府管军不管民，六部管民不管军。大将在平时不指挥军队，动员复员之权属于兵部，供给粮秣的是户部，供给武器的是工部，决定战略的是皇帝。六部分别负责，决定政策的是皇帝。在过去，政事由三省分别处理，取决于皇帝，皇帝是帝国的首领。在这新统治机构下，六部府院直接隶属于皇帝，皇帝不但是帝国的首领，而且是这统治机构的负责人和执行人；历史上的君权和相权到此合一了，皇帝兼理宰相的职务，皇权由之达于极峰。