636年（贞观十年），李世民为加强战备，于本年整顿府兵制。

府兵制是北朝西魏宇文泰在大统年间（535-551年）创置的，一直至天宝八年(749年)方告废止，先后维持了200年。唐初，沿袭隋府兵制，本年，太宗加以改革。规定左右卫等12府和东宫六率府是管辖府兵的最高军事机构，直接隶属皇帝。12卫府各领40-60个军府，太子的东官六率府各领3-6个军府，军府改称折冲府，设折冲都尉、果毅都尉为正副长官。军府分上中下三等。上府1200人，中府1000人，下府800人。府下面又分团、队、火三级，人数分别为200、50、10人。全国共有634个军府，按内重外轻原则分布，京师所在的关中占261府。折冲府不受地方长官管辖，其长官也不得干预地方行政。府兵统称卫士，20从军，60离队。府兵粮械自备，免除赋役，战时出征，平时主要轮流到京城宿卫，称番上，其制度是：500里内为五番，500里外为七番，1000里外为八番，各一月上，2000里外为十番，倍其月上。太宗所改定的府兵制有鲜明的特点：首先是兵农合一，三时农耕，一时教战，减少军费开支，巩固了武装力量。其次，由12卫督率各府，而关中有府261，拥兵26万，加强了中央力量，收到“居重驭轻”的效果。第三，兵士平常有训练，将却不能拥兵自重。第四，实行拣点办法，即征兵制，和招募的职业兵不同，多少有保卫家乡的观念。