婚后的秦良玉并没有沉浸在婚姻的幸福中，而是利用平日所学为丈夫分析时局。她认为，马千乘当下最重要的就是训练兵马，维持安定。她对丈夫说：“男儿当求树勋万里，奚用坐守为？”马千乘便在妻子的建议下开始训练士卒。

秦良玉和丈夫都是苗族人，他们训练的士兵也都是苗族人，这个民族最大的特点就是战斗勇猛。不过，要想将这些游勇散兵训练成一支纪律严明的军队，还需要花费一些功夫。秦良玉对这些将士进行了严格的训练，自己也加入其中。那些军士看一个女子尚且有如此毅力，因此都咬牙坚持。没多久，秦良玉就练成了一支令敌人闻风丧胆的军队。

为了提高作战力，秦良玉还发明了一种特殊的兵器。她用当地特有的白蜡树的树干做成长杆，并在上面绑上带刃的钩，下面配上坚硬的铁环。作战时，钩刃用来制敌，铁环用来套取对方的兵器。这些兵器首尾相连，又能像长绳一样当作爬山、爬墙的工具。士兵们有了这种武器，如虎添翼，从此更是所向披靡。秦良玉给这种兵器起名叫作“白杆”，后来人们就将使用白杆的士兵叫作“白杆兵”。