对中国人来说，日军的形象可谓人人皆知，因为抗日战争的电影看多了，但究竟在多大程度上了解近代日本军队，就不得而知了。士兵是士兵，军人是军人，先谈士兵。

在传统社会的日本，武士是职业军人，但明治维新后，士、农、工、商四民平等，征兵制应运而生。服兵役成为全体国民的义务，而且可以以较少的费用维持庞大的军队，最初在19世纪中期由普鲁士、法国等实施，但日本的引进过程颇费周折。明治政府成立时没有直接的军队，皇族成员担任的军事总裁通过大名指挥各藩之兵，而且相互之间存在较大差异，因为模仿的对象不同。长州藩出身并担任国防副部长（兵部大辅）的大村益次郎为建设国家军队东奔西跑，其设想是按照法国样式各藩建立常备兵力，驻扎在兵营中，设立培养陆海军官的学校、兵工厂、军队医院等。其改革设想引起士族的不满，大村在视察大阪基地时遭到袭击身亡。作为近代军队的创始人，大村的铜像至今竖立在靖国神社前的广场上。

接下来推进军事改革的是国防部副部长助理（兵部少辅）山县有朋，其设想是建立常备兵和预备兵，前者分布在6个军区。由于遭到各藩的反对，政府只好依靠萨摩、长州、土佐3藩提供的6300名士兵组成近卫军——直属天皇的亲兵，并在此基础上大胆地实施了“废藩置县”，将各藩的兵力收编到中央政府。1872年，废除兵部省，设陆军省和海军省，同年以天皇名义颁布《征兵告谕》，1873年正式颁布《征兵令》。在全日本设置东京、仙台、名古屋、大阪、广岛和熊本等6个镇台驻扎兵力，同年又颁布了《枪支禁止规则》以及《废刀令》，彻底解除了士族的武装。同时，陆军模仿的对象也从法国转为普鲁士，尽管在职业军官统率下的征兵制两国相同，但普法战争之前法国带有浓厚的雇佣兵色彩，普鲁士更接近义务兵役制度，特别是普鲁士在战争中获胜，因而成为日本陆军的榜样，甚至陆军大学最初的教员也是德国人，结果陆军也具有较强的政治性，即经常干预政府事务。顺便提及的是，日本海军自始至终模仿的是英国，与政治的关系也比较薄弱。

普鲁士更接近义务兵役制度，特别是普鲁士在战争中获胜，因而成为日本陆军的榜样，甚至陆军大学最初的教员也是德国人，结果陆军也具有较强的政治性，即经常干预政府事务。

最初的征兵令是将满17—40岁的男子登录在册，满20岁的男子进行体检，身体合格者抽签服兵役3年，复员后仍有4年预备役。由于当时交纳270日元者、户主、嗣子、养嗣子、独子、独孙、官员、官立学校学生等可以免除服兵役，结果有80%多的适龄者可以免除服兵役，当兵者的80%是农村家庭的次子或三子。例如1876年，满20岁者全日本共有29.6万人，免除服兵役者竟有24.2万人。交纳270日元可以免除服兵役，实际上这是一种替代费，即3年服兵役的费用，包括津贴、伙食、被褥、武器、日常用品等费用，大体上相当于现在的270万日元。引起连锁反应的是，认领养子的代价也变成270日元。明治初年普通警察的月工资为6日元，因而能够交纳替代费者寥寥无几，1876年只有14人（另外免服兵役的户主66592人，嗣子、嗣孙、养嗣子为155659人），到1882年才达到482人（因受到优待富人的批判，1884年废除，当时利用该制度逃兵役者2000人）。另外，在1889年以前，北海道、冲绳地区没有实施《征兵令》，因而也有不少人为逃避服兵役而迁移到这两个地区，例如著名的文学家夏目漱石等。

对广大农民来说，服兵役不仅从观念上难以接受，因为传统意识中当兵打仗是武士的事情；更为一项沉重的负担，怎么说也是失去了重要的廉价劳动力；再加上《征兵告谕》中说服兵役是“以血报国”，文化程度不高的农民担心当兵后被抽血等。因此，各地农民纷纷举行反对征兵的暴动。

尽管征兵制在西南战争中表现出其优越性，但1878年8月23日午夜，竹桥附近的近卫兵炮兵大队约200名士兵因不满在西南战争中的奖赏和工资而发动叛乱。叛乱士兵杀死值班的军官，放火烧毁马棚，90名士兵攻破半藏门，直奔临时皇居赤坂离宫而去，准备直接上诉天皇，要求提高工资待遇，但被等候在那里的其他部队制服，史称“竹桥事件”。

近卫兵是从征召的士兵中选拔出来专门护卫皇居者，多为农民和工商业的出身。当时近卫炮兵的月工资为2.30日元，在事件中被杀死的宇都宫茂敏少校月工资100日元，陆军部长（卿）山县有朋月工资1400日元（当时1日元相当现在3万日元），士兵的不满是很自然的。山县听到消息后穿着和服，随便抓了一顶别人的军帽戴上就去处理此事。处死叛乱首谋者53人，处罚200多人。1936年大规模士兵叛乱的“二二六事件”也只处死18人，可见“竹桥事件”对政府的冲击程度。

宣誓忠诚天皇与政府的近卫兵叛乱使政府高官感到危险，而且也发现叛乱士兵具有自由民权思想，因而必须从思想上加以统制。随后以山县有朋的名义颁布《军人训戒》，强调忠实、勇敢、服从是军人精神。1882年再次以天皇的名义颁布《军人敕谕》，提倡军人绝对服从天皇的命令，严守忠诚、礼仪、武勇、信义、素质等价值观念。“无论多么不合理，上级的指示就是天皇的命令”、“士兵为军官擦靴子是为天皇服务”等渗透到士兵中，成为无条件服从的暴力工具。

1883年废除替代费，1889年大幅度修改《征兵令》，户主也不能免服兵役。满17—40岁的男子均有服兵役的义务，满20岁后入伍，服役时间为陆军3年、海军4年，国民皆兵的原则终于确立。逃兵役者只好利用逃亡、自残、生病等方式达到目的。《征兵令》中专门规定对上述行为者判处1个月以上、1年以下的徒刑，并处于3日元以上、30日元以下的罚款。尽管如此，直到1931年日本发动侵略中国东北地区的“九一八事变”时，每年逃兵役者均超过2万人，从时效上看，这些人必须至少“人间蒸发”20年，也就是说到40岁以后才能公开生活。

1927年，《征兵令》大幅度修改为《兵役法》，分为常备兵役、后备兵役、补充兵役、国民兵役等，常备兵役又分为现役、预备役，补充兵役分为第一补充兵役、第二补充兵役，国民兵役分为第一国民兵役、第二国民兵役等。通常男子满20岁后接受征兵检查，合格者并被指定者成为现役兵，在军营或军舰上服役。陆军2年、海军3年后结束现役，转为预备役，陆军5年4个月、海军4年后转为后备役，时间为陆军10年、海军5年。

征兵检查合格者（甲种、乙种）才能成为现役兵，但为征召更多的兵员，没有征召为现役兵者服补充兵役。另外，服完现役、预备役、后备役、补充兵役者到40岁之前服第一国民兵役。没有服上述各种兵役者须服第二国民兵役，即那些征兵检查为“丙种”的“不适宜现役者”。服预备役、后备役、补充兵役、国民兵役者战时受到征召上战场，其征召令俗称为“红纸”。

1941年后备役与预备役合并，时间上陆军为15年4个月，海军为12年，1942年征兵年龄下降到满19岁。每年4月16日到7月31日进行征兵身体检查，结果分为“适合现役者”、“适合国民兵役但不适合现役者”、“不适合兵役者”、“难以判断适合兵役者”。“适合兵役者”分为“甲种”、“乙种”，甲种为身高155公分以上且身体健康者，“乙种”虽然条件不如“甲种”但仍适合现役，其中分为“第一乙种”、“第二乙种”，1939年又加上“第三乙种”。“适合国民兵役但不适合服兵役者”为“丙种”，即“身体极其缺陷者”。身高不足145公分者、身体及精神有残疾者为“丁种”的“不适合兵役者”，未判刑者等为“难以判断适合兵役者”，第二年接受征兵检查。约40%的接受检查者为“甲种”，再加上“乙种”，几乎所有的国民均为“适合现役者”。“丙种”与“丁种”非常少，即使如此，到战争末期，“丙种”及“丁种”也被征召，完全成为“国民皆兵”。也有通过征兵身体检查逃避兵役者，例如著名导演黑泽明的父亲与检查官关系密切，从而使其得以免服兵役，身体本来就差的著名文学家三岛由纪夫故意感冒以骗过检查官等。适龄青年服兵役仅仅是“兵”，不是职业的“军人”，服完兵役重新从事原来的职业。

日本陆军创设之初为维持国内治安的镇台制，后来围绕朝鲜半岛与中国清朝不断发生对立，为准备对外战争，1888年将镇台改为师团制。东京为第一师团，仙台为第二师团，名古屋为第三师团，大阪为第四师团，广岛为第五师团，熊本为第六师团，1891年担任皇宫警卫的军队专门成立近卫师团。简单地讲，师团大体上相当其他国家的师，编制通常为两旅团、四步兵联队（团）及炮兵、辎重和骑兵联队，平时兵额有1万人左右，战时足额则近3万人左右。作为甲午战争前成立的7个老牌师团，一直被日本陆军视为头等部队，装备优先保障。联队兵员3000人左右，除联队长是调来调去的陆大毕业的军官外，其他官兵均以都道府县为单位构成的“乡土部队”，以强化战斗力。天皇授予联队旗，丢不得，乃木希典在西南战争时失掉军旗，明治天皇开恩未追究其责任，但天皇去世时仍以殉死以明其志。

军队最小的单位是“分队”，5—6人组成。3个分队组成一个“小队”，20人左右。3个小队组成一个“中队”，增加机关枪队和补充兵员，1个中队有100人左右。3个中队组成1个“大队”，300人左右。3个大队再加上重炮部队、坦克部队、辎重部队等，组成1个“联队”，其规模1500—2000人左右。联队长是一个重要的职位，在军官的阶位中是从中间管理职向上级管理职转化的“龙门”。

3个或4个联队组成1个师团，在万人的规模中，八成是战斗人员，另外两成是行政事务担当者，或者炊事员、电话兵等。4个或5个师团构成一个军，战时在作战地域由几个军构成“方面军”，上面还有“总军”。

从官位上看，小队长、中队长是下级士官，大队长是尉官，联队长是校官，师团长、军司令官、方面军司令官、总司令官是将官。成为师团长是职业军人的梦想，由天皇亲自任命并赠与爵位，不能随便撤职。英帕尔战役时，缅甸方面军司令、卢沟桥事件爆发时的联队长牟田口廉也当时解除3个下属师团长的职务，实在是违背圣命之事。

另外，日本军队极不重视后勤供应的辎重部队，甲午战争时雇佣了15万本国的民夫运送弹药物资，全部在国外战场服务（该场战争日本动员军队24万人，其中17万人到国外战场）。尽管民夫的日工资50钱，待遇很高，应征者踊跃，但因忽略战地卫生（日本军队战死者1415人，病死者11894人），各种疾病使其中的8000人死亡。直到第二次世界大战，日本军队还是采取以战养战的方式，因而出现了杀光、烧光、抢光的“三光政策”。

无论如何，全民皆兵以及“忠君爱国”观念的灌输对近代国民国家的形成起到重要作用，也是支持大规模对外侵略战争的民族主义社会基础。