自从平安时代作为政府军的军团随着律令体制的崩溃而解体之后，日本就再没有作为国家政权的军队。进入幕府时代，遍及全国的分散的、独立的武家家臣团承担了军队的责任。这种家臣团以主从关系为基础，靠个人忠诚的道德约束及恩给的经济纽带来维系其存在。在幕府权利强大时，尚可服从其指挥，一旦幕府统治弱化，则在各地拥兵自重，导致自镰仓时代后期起战乱不断，社会失序。德川家康在江户开府后，通过建立幕藩体制及身份制度强化了主从关系体制，每一个武士，根据家格、俸禄、家职被固定身份，必须忠心耿耿履行其“奉公”的家业。从军事角度而言，在冷兵器时代的中世时期，作战主要是一人对一人，或数人对数人的以刀与长矛之类武器近距离格斗，人数及个人的技能都是取胜的关键。从室町时代后期起，步枪、炸药等热兵器技术的传入，使军事战术也发生了变化，从单枪匹马的弓马之战转向密集的步兵作战，武士的居住形态也随之由分散居住转向集中居住在领主的城下町，由寓兵于农转向兵农分离转化。这一过程始自丰臣秀吉于16世纪末期颁布“刀狩令”和“身份统制令”，在整个德川时代，军事大权彻底被武士独揽。武士之所以位居农工商三民之上成为统治阶级，就在于他们垄断武力。他们的地位、尊严和荣誉无不来自凭借武力所确立的武功和武名。但是随着城居而逐渐都市化、贵族化，加上江户时代基本上天下太平，武士很大程度上从军人转化为行政事务官员，故军事素质下降，与能骑善射、英勇果敢的中世武士渐行渐远。

幕府末期，面对西方列强的压力，幕府与西南各藩已经着手建立近代军队，并实施一些军事改革。倒幕维新在军事上的成功实际上是借用了萨摩、长州等藩的军事力量。明治政府在建立之初并没有自己的军队，不论从实现富国强兵的长远目标考虑，还是戊辰战争刚刚结束后国内紧张局势的需要，都需要建立一支强大的、直属中央政府的新式常备军队。在通过“废藩置县”、摧毁了封建社会组织基础之后，明治政府根据西乡从道及山县有朋等人提出的“国民皆兵”的建议，于1872年11月28日，发布了《征兵诏书》:[14]

朕惟古昔郡县之制，募全国之丁壮，设军团以护国家，原本兵农不分。中世以降，兵权归于武门，兵农始分，遂成封建之治，戊辰一新实千余年之大变革也。当此之际，海陆兵制亦应从时制宜。今基本邦之古制，斟酌海外各国之式，欲设全国募兵之法，以立护国之基。汝百官有司应厚体朕意，将之告谕全国。

《征兵诏书》以复古主义否定了武家封建制度，又以“一新”精神采用西方国民皆兵的征兵制度，这种“复古”与“一新”的结合，构成明治维新的一大特征，也是征兵制得以确立的思想基础。在发布《征兵诏书》同日，明治政府以发布太政官《征兵告谕》的形式将《征兵诏书》晓谕全国。《征兵告谕》强调古代日本兵制的优点，“我朝上古之制，海内皆兵，有事之日，天子为大元帅，募丁壮可堪兵役者以征不服，解役回家则为农为工为商贾”；接着痛批武士垄断军事的现象：“腰佩双刀之武士，抗颜坐食，甚至杀人官亦不问其罪”。“保元平治以后朝纲废弛，兵权终坠武门之手，国为封建之势，人有兵农之别，降至后世，名分皆泯灭，其弊不可胜言。”在彻底否定了近七百年的武家统治后，“征兵告谕”强调，在大政维新后，“四民渐得自由之权，此乃平均上下，齐一人权之道，亦即兵农合一之基也”。于是，“兵非从前之士，民非从前之民，均为皇国一般之民，报国之道本无其别”。《征兵告谕》号召说：“国家若有灾害，人人皆分受其害，故人人须竭尽心力防止国家之灾害，亦即防自身灾害也。有国家则有兵备，有兵备则人人应就其役。”[15]《征兵告谕》体现出四民自由平等，人权齐一的西方近代思想。从此武士作为特殊阶层的意义自然就不存在了。封建身份制的废除，可以说由此得到了最后的实现。

《征兵诏书》与《征兵告谕》发布后不久，1873（明治六年）年1月10日，明治政府颁布了《征兵令》，规定征年满20岁之国民以充海陆两军，其中陆军分为常备军、后备军、国民军。常备军在每年征兵中以抽签形式决定，服役三年；后备军以结束三年常备军役者组成；国民军即把全国在常备军、后备军之外的所有17岁到40岁的男子皆编入兵籍。《征兵令》的颁布与征兵制的实施以法律的形式废除了武士的军事垄断权，消除了武士与平民的区别，具有深刻的、划时代的意义。从此，明治政权按照富国强兵的目标开始了近代军队的建设。

在武士独享的各种特权中，与佩刀、姓名这些荣誉性特权的丧失相比，军事垄断权的丧失对武士的打击是更为实质性的、致命的。近七百年的武家统治时期，是武力可以解决一切的时代，这种社会环境养成了武士对平民百姓在政治上和社会上的特权及伴随而来的尊严性与荣誉感，而长期生活在身份社会中的平民阶层同样认同武士的尊严与荣誉。实施以四民平等为基础的征兵制度，意味着昔日的被统治者农工商顷刻间就可分享武士七百年的荣誉，成为军人，而平民地位的上升则意味着武士沦为昔日被统治者的平辈，使他们严重心理失衡，“以国家之防护为己任的士族耻于与匹夫、伧父之卑下农工商为伍”[16]。因此，在酝酿实施征兵制过程中的1869年，兵部大辅大村益次郎（1824—1869）因主张实施征兵制遭到心怀不满的士族的暗杀。颁布《征兵令》的1873年当年，全国各地就先后发生了十八次反对征兵制的骚乱。[17]对新政的不满，最终导致1877年爆发了西南战争。明治政府动用了6万兵力，耗时6个月，倾4100万日元（占当年税收的85%）军费平息了这场由“维新三杰”之一西乡隆盛（1827—1877）领导的最大规模的武士叛乱，也是日本历史上最后的内战。总之，“国民皆兵”的征兵制的实施，标志着统治日本近七百年的武士阶级不复存在。

除上述内容以外，1871年，平民还被允许骑马，撤销因身份不同而产生的服装、职业等方面的禁制，平民自此获得了选择职业及迁徙的自由。新政府还允许华族、士族与平民互相通婚，平民与士族间在身份上的平等逐步体现在社会生活各个方面。