“皇军”和武士的公开冲突终于在明治十年（1877年）以西南战争的形式全面爆发。明治维新的功臣西乡隆盛在政治斗争失败后回到鹿儿岛，领导一批对改革不满的“不平士族”，发动了一场意图不明的叛乱。值得注意的是，由于长达千年的武士文化的熏陶和德川幕府两百多年的武士道教育，由平民组成的“皇军”在战争一开始对与叛乱武士作战心怀恐惧，连许多武士出身的“皇军”指挥官也都持败北主义思想，不相信手下这群庄稼汉能够与征战千年的武士作战，甚至有士族出身的军官嘲笑自己的士兵：

武士就是武士，农民就是农民，绝不是放下锄头拿起了刀，就可以变成武士了。

除却武士道教育，一般平民还受江户时代流行的能剧、净琉璃戏、狂言等戏剧的影响，认为武士“忠勇无敌”，平民军队根本不是其对手。“皇军”出征时，许多百姓在路边看着这些新入伍的农家子弟指指点点，认为他们是无畏赴死的傻瓜，一上战场就会被武士军队斩杀殆尽。

法国杂志《世界画报》1877年描绘的西乡隆盛和追随他的武士。

此图有艺术夸张的成分，因为当时西乡军很少有人穿铠甲，他们主要使用步枪等现代武器

然而，战争的走向和他们的想法大相径庭，尽管叛乱的武士展现出了相当高的军事素养，在复杂地形以武士刀为武器对明治军进行白刃突袭战，掀起人体残肢和血肉风暴的作战方式也确实让平民出身的“皇军”感到胆寒。因为伤亡惨重，场面骇人，平民军队中出现了畏战情绪，明治政府不得不组织精通剑术的旧武士组成拔刀队，对西南叛军的白刃突袭战术进行反制。

西南战争以鹿儿岛山城陷落、西乡隆盛的死而告终，

画面左下方为明治政府的国民军队，右上方为武士叛军

但随着战争的持续，叛军的弱点逐渐暴露出来，他们既缺乏可靠的兵员补充，也没有稳定的弹药补充，更缺乏可以攻坚的重武器。最要命的是，叛军缺乏一个目标明确的作战计划，连叛乱的领导者西乡隆盛本人也不知道发动叛乱的最终目标是什么，尽管“皇军”遭受了相当惨重的损失，叛乱还是以西乡隆盛的死而宣告失败。