抗战胜利后,蒋介石即决定开始整编全队。这是出自军政部长陈诚的建议,白崇禧期期以为不可,他对蒋介石说:回忆一九二八年七月在北平小汤山举行的裁兵善后会议,他曾坚决反对裁兵,并提出了以殖边替代裁兵的办法。如果当时统帅部考虑他的意见,则一九二九年以后的连年内战可以避免,以后也不致引起日寇侵略,一为之甚,其可再乎?!
白崇禧指出:“现在国共进行谈判,但全面和平未可预期。我们总不能一面打仗,一面裁兵。盖编余官兵若无妥当安置,即将酿成后患。此不能不予以注意。”但蒋介石那时深受陈诚所左右,一九四五年十一月十一日,在重庆召开“复员整军会议”,一九四六年二月十六日,又在南京召集第二次会议,决定第一期“复员”军官十五万人,士兵一百万人。并将五十八个军整编为师。这一切与国共之间整编方案毫无关系,完全是国民党方面的单行道。
编余军官怎样处理呢?在全国各地一共设置了二十九个军官总队,另外还有三个分队。这些军官总队一至二十归中央训练团负责,其余的由所在省训团负责。军官总队收容的军官认为他们在抗战八年中,没有功劳也有苦劳,怎么可以一旦抗战胜利,即使他们投闲置散?!想念及此,愤激填膺,因而索性离队走单帮,砸戏院,有的甚至到孙中山陵墓哭诉,弄得举国骚然,影响社会秩序。
一九四五年十二月二十日,美国总统杜鲁门派美军参谋总长马歇尔为特使,来中国调处国共关系。当时,由马歇尔和国民党代表张治中、代表周恩来组成最高军事三人小组会议,到一九四六年二月二十五日,签订了《关于军队整编及统编部队为之基本方案》。依据这个方案,国共军队的比率,定为五比一,即在六十个师中十一个师应由领导。后因国共战争范围扩大,统编方案卒未实施。