皇权的一个轮子是军队。
朱元璋在攻克集庆以后，就厉行屯田政策，广积粮食，供给军需。他和刘基研究古代的兵制，征兵制的好处是全国皆兵，有事召集，事定归农，兵员素质好，来路清楚，政府在平时无养兵之费。坏处是兵员都出自农村，如有长期战争，便影响到农村的生产。而且兵源有限制，不适合于大规模的作战。募兵制呢？好处是应募的多为无业游民，当兵是职业，数量和服役的时间，都可以不受农业生产的限制。坏处是政府经常要维持大量数目的常备军，军费负担太重。而且募的兵来路不明，没有宗族乡党的挂累，容易逃亡，也容易叛变。理想的办法是折中于两者之间，有两者的好处，而避免个别的坏处，主要的原则，是要使战斗力量和生产力量一致。
刘基创立的办法是卫所制度。(1)
卫所的兵源有四种，一种是从征，即起事时所统的部队，也就是郭子兴的基本队伍。一种是归附，包括削平群雄所得的部队和元朝的投降军。一种是谪发，指因犯罪被谪发充军的，也叫作恩军。一种叫垛集，即征兵，照人口比例，一家有五丁或三丁出一丁为军。前两种是定制时原有的武力，后两者则是补充的武力。这四种来源的军人都是世袭的，为了保障固定员额的维持，规定军人必须娶妻，世代继承下去，如无子孙继承，则由其原籍家属壮丁顶补，种族绵延的原则，被应用到武装部队里来，兵营成为武装的家庭群了。(2)
军有特殊的社会身份，单独有军籍。在明代户口中，军籍和民籍、匠籍平行，军籍属于都督府，民籍属于户部，匠籍属于工部。军不受普通行政官吏的管辖，在身份上、法律上和经济上的地位，都和民不同，军和民是截然地分开的。民户有一丁被垛为军，政府优免他原籍老家一丁差徭，作为优恤。军士到戍所时，由宗族替他治装。在卫的军士除本身为正军外，其子弟称为余丁或军余，将校的子弟则称为舍人。日常生活概由政府就屯粮支给，按月发米，称为月粮，马军月支米二石，步军总旗一石五斗，小旗一石二斗，步军一石（守城的照数支给，屯田的半支）。恩军家四口以上一石，三口以下六斗，无家口的四斗。衣服岁给冬衣棉布棉花夏衣夏布，在出征时则例给胖袄鞋裤。(3)
军队组织分作卫、所两级，大体上以五千六百人为卫，卫有指挥使。卫分五千户所，所一千二百二十人，有千户。千户所分十百户所，所百十二人，有百户。百户有总旗二，小旗十，总旗领小旗五，小旗领军十人。大小联比以成军。卫所的分布，根据地理险要，小据点设所，关联几个据点的设卫。集合一个军区的若干卫所，又设都指挥使司，作为军区的最高军事机构，长官是都指挥使。洪武二十五年（1392）全国共有十七个都指挥使司，内外卫三百二十九，守御千户所六十五，首都和地方的兵力分配如下：
在京武官?? ??
??
二七四七员
军
士?? ??
??
二O六二八O人
马????
??
??
四七五一匹
在外武官?? ??
??
一三七四二员
军
士?? ??
??
九九二一五四人
马????
??
??
四O三二九匹(4)
这十七个都指挥使司又分别隶属于五军都督府。
军食出于屯田，大略是学汉朝赵充国的办法，在边塞开屯，一部分军士守御，一部分军士受田耕种。目的在省去运输费用，和充裕军食，减轻国库的负担，使战斗力和生产力一致。跟着内地卫所也先后开屯耕种，以每军受田五十亩作一分，官给耕牛、农具，开头几年是免纳田租的，到成为熟地后，每亩收税一斗，规定边地守军十分之三守城，七分屯种，内地是二分守城，八分屯种，希望能达到自足自给的地步。(5)
军队里也和官僚机构一样，清廉的武官是极少见的，军士经常被苛敛剥削，朱元璋曾经愤恨地指出：
那小军每一个月只关得一担儿仓米。若是丈夫每不在家里，他妇人家自去关呵，除了几升做脚钱，那害人的仓官又斛面上打减了几升。待到家里 （音伐）过来呵，止有七八斗儿米，他全家儿大大小小要饭吃，要衣裳穿，他那里再得闲钱与人？(6)正军本人的衣着虽由官家支给，家属的却得自己制备，一石米在人口多的家庭，连吃饭也还不够，如何还能孝敬上官？如何还能添制衣服？军士活不了，只好逃亡，只好兼营副业，做苦力、做买卖全来，军营就空了，军队的士气、战斗力也就差了。
除军屯外，还有商屯。边军粮食发生困难时，政府就用开中法来接济。开中法是把运输费用转嫁给商人，政府有粮食有盐，困难的是运输费用过大，商人有资本也有人力，却无法得到为政府所专利的盐，开中法让商人运一定数量的粮食到边境，拿到收据，就可以向政府领到等价的盐，自由贩卖，从而获取重利。商人会打算盘，索性雇人在边上开屯，就地缴粮，省去几倍的运费。(7)在这一交换过程中，不但边防充实了，政府省运费，省事，商人也发了财，皆大欢喜。而且，边界荒地开垦了，不但增加了政府的财富，也造成了地方的繁荣。
军权分作两部分，统军权归五军都督府，军令权则属于兵部。武人带兵作战，文人发令决策。在平时卫所军各在屯地操练、屯田，战时动员令一下，各地卫军集合成军，临时指派都督府官充任将军总兵官，统带出征。战事结束，立刻复员，卫军务回原卫，将军交回将印，也回原任。将不专军，军无私将，上下阶级分明，纪律划一。唐宋以来的悍将跋扈、骄兵叛变的弊端，在这制度下是完全根绝了。
朱元璋对军官军士是用十二分的注意来防闲的，除开在各个部队里派义子监军，派特务人员侦伺以外，洪武五年（1372）还特地降军律于各卫，禁止军官军人，不得于私下或明白接受公侯所与信宝、金银、缎匹、衣服、粮米、钱物，以及非出征时，不得于公侯之家门首侍立。其公侯非奉特旨，不得私自呼唤军人役使，违者公侯三犯准免死一次，军官军人三犯发海南充军。(8)后来更进一步，名义上以公侯伯功臣有大功，赐卒一百十二人作卫队，设百户一人统率，颁有铁册，说明“俟其寿考，子孙得袭，则兵皆入卫”。称为奴军，亦称铁册军。事实上是防功臣有二心，特设铁册军来监视的。功臣行动，随时随地都有报告，证人是现成的，跟着是一连串的告密案和大规模的功臣屠杀。(9)
在作战时，虽然派有大将军指挥大军，指挥战争进行的还是朱元璋自己，用情报、用军事经验来决定前方的攻战，甚至指挥到极琐细的军务。即使最亲信的将领像徐达、李文忠，也是如此。例如吴元年（1367）四月十八日给徐达的手令，在处分军事正文之后，又说：“我的见识只是如此，你每见得高处、强处、便当处，随着你每意见行着，休执着我的言语，恐怕见不到处，教你每难行事。”洪武三年（1370）四月：“说与大将军知道……这是我家中坐着说的，未知军中便也不便，恁只拣军中便当处便行。”给李文忠的手令：“说与保儿老儿：……我虽这般说，计量中不如在军中多知备细，随机应变的勾当。你也厮活落些儿也，那里直到我都料定！”大体上指导的原则是不能更动的，统帅所有的只是极细微的修正权。
对待俘虏的方针是屠杀，如龙凤十一年（1365）十一月初五日的令旨：“吴王亲笔，差内使朱明前往军中，说与大将军左相国徐达、副将军平章常遇春知会：十一月初四日捷音至京城，知军中获寇军及首目人等六万余众，然而俘获甚众，难为囚禁，今差人前去，教你每军中，将张（士诚）军精锐勇猛的留一二万，若系不堪任用之徒，就军中暗地去除了当，不必解来。但是大头目，一名名解来。”十二年（1366）三月且严厉责备徐达不多杀人：“吴王令旨，说与总兵官徐达，攻破高邮之时，城中杀死小军数多，头目不曾杀一名。今军到淮安，若系便降，系是泗州头目青旛黄旗招诱之力，不是你的功劳。如是三月已里，淮安未下，你不杀人的缘故，自说将来！依奉施行者。”吴元年（1367）十月二十四日因为俘虏越狱逃跑，又下令军前：“今后就近获到寇军及首目人等，不须解来，就于军中典刑。”洪武三年（1370）四月：“说与大将军知道：止是就阵得的人，及阵败来降的王保保头目，都休留他一个，也杀了。止留小军儿，就将去打西蜀了后，就留些守西蜀便了。”则不但俘虏，连投降的头目也一概残杀了。
有一道令旨是关于整饬军纪的，说明了这一举措的军事理由。时间是龙凤十二年（1367）三月：“（张军）男子之妻多在高邮被掳，总兵官为甚不肯给亲完聚发来？这个比杀人那个重？当城破之日，将头目军人一概杀了，倒无可论。掳了妻子，发将精汉来，我这里赔了衣粮，又费关防，养不住。杀了男儿，掳了妻小，敌人知道，岂不抗拒？星夜教冯副使（胜）去军前，但有指挥、千户、百户及总兵官的伴当，掳了妇女的，割将首级来。总兵官的罪过，回来时与他说话。依奉施行者。”(10)男子指的是张士诚的部队，被掳是指的被朱元璋自己的部队所掳。把俘虏的妻女抢了，送俘虏来，养不住，白赔粮食，白费事看守。掳了妇女，杀了俘虏，敌人知道了，当然会顽强抵抗。为了这个道理，朱元璋只好派特使去整顿军风军纪了。