夺取长安是李渊统一全国战略的第一步；歼灭群雄、消除割据则是他的第二步。第二步的第一阶段还要和好突厥，经略西北，巩固根本；第二阶段就是消灭关东、江南等群雄，统一全国。

总的来说，深谙政治的李渊基本方略是各个击灭，先北后南。有了这样的政治思路，李渊入据长安后，就“以书谕诸郡县，于是东自商洛，南尽巴蜀，郡县长吏及盗贼渠帅，氏、羌酋长，争遣子弟入见请降”。李渊采用政治招抚的手段，达到了不战而胜、拓土徕民的目的。在此后征服群雄的过程中，他采用的大多都是这种军事进攻与政治瓦解相结合的手段。

在李渊登上皇位还只有30天时，薛举派他的儿子薛仁杲领兵前来进犯，十余万大军，将扶风郡城团团围住。李渊亲自点将，命李世民为帅征讨薛仁杲。李世民不负父望，在扶风斩敌万余，击溃薛仁杲，将唐的势力扩充到了陇右一带，使关中的局势得到稳定。

可是，事情过去还不到半年，武德元年都还没过去，薛举又亲自领军前来进犯泾州。李渊刚做了皇帝，百废待新，有许多政务需要处理，不能亲自前去征讨了；李建成生为太子，理所当然该留在京城协助父皇处理政务；三弟玄霸早已被杀；四弟元吉在战事上能力相对较差，李渊审时度势，封李世民为西讨元帅，继续讨伐薛举。

此时的李世民，还不到二十岁，只是个青年，可他已经是一个身经百战的将军，又是一个位极人臣的宰相、秦王、几十万大军的统帅。

关于此次战争，以李渊的眼光来看，是在所难免的。薛举即使不来侵犯，他也要派兵前去征剿。他已经做了皇帝，其雄心壮志丝毫也不亚于他的姨表兄隋炀帝。他李渊决不是要安居国中的一偶，与王世充、薛举、刘武周等分享做皇帝的快乐，而是要一统这东方的泱泱大国，让人民过上安居乐业的生活。

作为从小生活在充满政治氛围中长大的李渊，对于怎样治理自己的国家，他已经有着相当成熟的知识与经验，他很想将他做臣子时的一些想法都赶紧来付诸于实践。作为军事世家，他对于征战也有着很好的经验和知识，制定了一套完整的先西后东的战略部署。当他谈出自己的这一见解时，得到了二儿子李世民非常的理解与支持，这使他大为高兴，更加放心地将最精锐的部队都交到儿子手里。

“东方虽有王世充、李密两大势力，但他们正在洛阳鏖战不休，一时都无暇顾及关中。更何况，抗拒东方来犯之敌，我有崤、函之固，凭险而守，非常容易。而西面薛举所占的陇右地区，是关中的大后方，与关中关系密切，且在地势上有高屋建瓴之势，随时都可能向关中发起攻击。所以，陇右不定，关中难安。正因为这样，就是他不来，我们也应首先去征讨他、彻底灭了他。只有这样，我们关中的大后方，才可以得到真正的安宁。”

李渊的这一番话，是在李世民出征前说的，那时李建成和李元吉都在一旁听着。李渊深知，在夺取一个国家之后，要巩固她，发展她，非常非常不易。他曾经顾虑重重，忧虑夺取天下后各军事力量对他的攻击。没想到上天给了他几个好儿子，特别是李世民！

早晋阳起事时，是李渊亲自托嘱他的两个儿子——李建成与李世民。一个在河东密招豪友，一个在晋阳潜结英俊。如今的太子府与秦王府，都是人才济济，这使李渊万分自豪和高兴。因为他想到要妨所有的人，却一丝儿也没有想到要妨自己的儿子。他高坐在帝王的宝座上，捋着日益变白的胡须，非常惬意地想着：

太子，可以用他的人才来协助朕的治理国家；秦王，可以用他的人才来替朕平定天下。养儿的好处，朕可谓天下第一，朕可以高枕无忧了！

看着李建成兄弟仨手拉手，亲密无间，有说有笑地，李渊感到无比的欣慰。

李渊派秦王李世民为元帅西击薛仁杲后，他相信虽然是虎狼之师的薛举不是李世民对手，但却担心在李世民与薛举作战时李轨前来骚扰，于是便用认亲和封官的手段相抚了李轨，从而对薛举形成战略牵制，以减轻关中地区的压力，确保李世民西击薛举的胜利。

为能联合李轨，已做了皇帝的李渊不惜低声下气，在给李轨的书信中，称他为“从弟”。结果，李轨接到“从兄”的书信，自然非常高兴，不但慨然答应李渊交办的所有事情，还特派了亲弟弟李懋，来到长安，以表相交之城意。李渊见了李懋，即拜为大将军。同时册拜李轨为凉州总管，进封凉王。事情办到这个地方，李轨自然竭尽全力，从西面牵制薛仁杲东进。

为了李世民西击薛举的胜利，李渊可谓用心良苦，精心尽力地做好一切该做的事情，旨在为李世民的胜算多几成把握。不料，正当李渊捻须自喜时，传来李世民大败而归的消息。

李渊又气又恼，更是担心。如今虽说做了皇帝，但这时天下同时做皇帝的还有薛举、刘武周等人，就是那对李渊委曲求全的李轨，也随时有可能要来做个皇帝。倘若不能击败薛举，到时候刘武周与王世充有了个了结时，再回过头来与他李渊共争天下，事情恐怕就难办多了。更何况,明明是胜算在握的一仗，怎么打得这么一塌糊涂？！

李渊真想将李世民唤来，狠狠地臭骂一顿。但是他忍住了，他想起了在他举兵之后这几年来儿子的所作所为。“他简直就是一个军事奇才,我不能因为这一次失败就对他责怪。更何况，这统一天下的长期征战，还需要他一年年地打下去。”李渊心里想道：“我不能就此折了他的自信，我要给他些时间，让他好好地反省反省。只有他自己知道错在那里，他才会避免在以后的战争中重滔履辙。”

李渊这么想着，心情渐渐地平静下来。他先后传来李世民身边的几个谋士，一一详细询问当时的情况。当他得知刘文静、殷开山等支持了李世民，错误地与敌摆开战场大战时，不由得怒火冲天了。他龙颜大怒，要杀鸡给猴看，斩了刘文静。

可李世民在请求整顿军队、半月后再出战薛举的同时，请求李渊不要治刘文静、殷开山的罪。李渊无可奈何，只好点头答应。

为进一步提高军队的战斗力，李渊这时提出必须“各因部校，序其统属”，恢复府兵制，分关中为12道，置12军。一年之后，12军各立军号，分道治军，耕战结合。建立12卫和东宫6率，完善了中央军事体制和府兵的编制，既沿用了隋朝的一些做法，又有所发展。这是后话。

关于如何治军，李渊语重心长地告诫李世民：“一定要注重广施恩惠，不惜重赏；同时又强调严肃军纪，禁止侵暴百姓。同时要积极争取敌军起义，收编敌方的队伍，以不断壮大自己的力量。对归顺者，要封他高官；对抗逆者，在将其打败后，一般也只诛杀首领，对其余的人采取宽赦。要善待俘虏，赏罚公平，不分贵贱，论功行赏。”

李世民原本也是这么做的，第二次征讨薛举，就更加注意了。这次该李世民有运，两军对阵没有几日，薛举竟然病发突亡，年青的薛仁杲仓促继位，与老将军们离心离德，结果刚刚开战，就要斩大将，搞得众叛亲离。李世民

在同样的地方与薛仁杲展开决战，几经冲杀，秦军死伤惨重，四散溃逃。李世民率军一路砍杀，大获全胜，俘获西秦精兵万余人，得男女百姓五万余口，薛仁杲被活捉押到长安后，李渊放不下上次损兵折将之恨，坚持将其斩首。

薛举既亡，此时关东李密与字文化及、王世充等又正杀得难解难分。对于他们，李渊仍采取坐观虎斗、以敌制敌的策略，继续集中精力对付西北群雄。

如今，在西北群雄中对长安威胁较大的，就只有刘武周了！

李渊正担心刘武周，刘武周竟令宋金刚率二万精兵进驻了黄蛇岭。这里是太原北面屏障，与太原仅在咫尺之间。守卫太原的李元吉令大将张达前往御敌。没打多久，张达全军覆没，李元吉趁夜逃到长安。李渊派出左武卫大将军姜宝谊、太常少卿李仲文前去迎战，结果又是全军覆灭；再派右仆射裴寂去，还是溃败逃亡。

宋金刚屡战屡胜，很快占据山西除太原与西河之外的整个地区，不久又攻占了太原。

坏消息一个个传来，李渊听得心惊肉跳，就在这时候，又传来萧铣派兵溯江而上，企图攻取唐王朝峡州、巴、蜀等地的消息，李渊心中更是大惊。他心里明白：事情再发展下去，就意味着他的皇位有可能出现问题，无奈之下，只好下旨：“贼势如此，难与争锋，宜弃大河以东，谨守关西而已。”

手谕正要发出，李世民大败薛举，亲率得胜之师从陇右前线凯旋归来，听说李渊想放弃河东地区，便连连摇摇头说万万不能放弃。

“战之不利，放弃不能，如之奈何？”

听了父皇的话，李世民主动请求：率胜利之师，再战刘武周。李渊感动不己，亲自为李世民送行，还悄悄地对李世民说：“这次我儿得胜回来，到时就立你为太子。”

李世民听了，心中一热，浑身是劲地率军迎战刘武周。

在柏壁，李世民与宋金刚整整对峙了三个多月后，终于大败刘武周，还得到了尉迟敬德这么一员所向披靡的勇将。刘武周北逃后被突厥杀死，至此所部灭亡，占领的原唐王朝的山西失地连同代北地区，尽数归唐王朝所有。

这时，关东的王世充、李密、于文化及、窦建德四支强大的武装力量,还在征战不休。宇文化及缢杀了隋炀帝，立秦孝王之子杨浩为帝，自称大丞相以后,引兵十余万西归。不久，他的内部发生争执，宇文化及杀了司马德勘。而留在东都的群臣，则奉越王侗继帝位于洛阳，招瓦岗军领袖李密为太尉，讨伐宇文化及。

黎阳一战，宇文化及败走魏县，在知道自己必败时，还断然毒杀杨浩，自己做了皇帝，并十分得意地说：“人生固当死，岂不一日为帝乎！”

李密打败宇文化及后，来不及高兴，内部也发生变故。王世充利用手中掌握的兵权发动政变，童山一战，使李密元汽大伤。王世充乘机进击，于偃师再次大败李密，招降李密手下大将单雄信，生擒秦叔宝、程知节、牛进达等人。

李渊闻报大喜，即派人趁机游说李密部下魏征，请他劝说李密归唐。败得一塌糊涂的李密听从了魏征的建议，率败兵两万人降唐。

在李世民战刘武周时，王世充、窦建德曾趁机肆意对唐展开攻势，不断攻占唐在河南的城镇。李渊当时不敢去派部队去征援，只能眼巴巴地看着关东之地，被窦建德与王世充一一占去。待李世民收复山西失地凯旋归来，唐军在关东所占地盘已尽数失去。

现在，到放手对付王世充和窦建德的时候了！只是，该先进攻谁呢？王世充兵力集中洛阳，易于全歼。洛阳乃隋之东都，攻克之后，在政治军事上的影响，都更大。更为重要的是：若先攻窦建德，王世充必然要出兵夹击，使我腹背受敌；反之，若先打王世充，窦建德很难去帮他。

这么想明白了，李渊决定再派李世民去打王世充。可这次李世民没上次那么充满**，反是眼巴巴地望着李渊。李世民在想父皇曾许诺的太子之位，可李渊听信了后妃们的求情，此刻又反悔了，他决定还是保留李建成的太子之位更好。可他没想到这不但直接导致了兄弟之间的不和，还成了兄弟俩激烈争夺太子的导火线，最后酿成了他李家的大惨剧。

李世民见父亲无动于衷，只好以大局为重去打王世充。为保证战争的胜利，李世出兵以后，李渊考虑到此时突厥北去，幽州的罗艺已归顺大唐，可以从北面牵制窦建德的军力，北方暂时无忧；于是放心地派出刚投降的徐世绩从黎阳方向，对王世充部进行牵制；又担心李世民围攻洛阳时盘踞长江中游的萧铣有可能趁虚袭击，就再派河间王李孝恭与李靖一道率军自金州出马蜀，沿长江而下直逼江陵，使萧铣自顾不遐，不能有所作为。

不仅如此，为防万一，待李世民走后，李渊立即在关中实行一项新令。将十二支部队，分别安置到关内的各个州郡，让他们一面操练，一面垦荒，为前方提供足够的兵员与粮草，以确保战事的胜利。

早在618年5月，洛阳知道隋炀帝被杀的消息，守将们便拥立隋炀帝长子杨昭之子，越王杨侗为帝，改元皇泰。第二年4月，王世充政变，夺取了政权，改国号为郑。王世充打败李密后，又拥有了关东地区，势力更加强大，正踌躇满志、洋洋得意时，闻报李渊派他的二公子、秦王李世民率兵来攻洛阳，数万唐军已达离洛阳70里的新安。

王世充作为李渊在中原的最主要对手，最后还是被李世民包围在了洛阳一座孤城里。王世充向北边的窦建德求援。窦建德来了之后不久被李世民击败成了阶下囚，王世充在绝望中献城投降。李渊还来不及替李世民庆功，窦建德的部将刘黑闼又举兵反唐，而且在不到半年的时间里，就又恢复了原来窦建德的领地。

李渊只能让李世民再次前去征讨，李世民与刘黑闼所部两万人激战，从中午到黄昏不分胜负，李世民便命唐军决堤放水。大水淹来，刘黑闼只能败退，去投奔了突厥，不久又卷土重来。李渊只好再命李元吉前往征讨，结果被刘黑闼击败；又派太子李建成又亲自出征，采纳了谋士魏征的策略，安抚民心，这才瓦解了刘黑闼的部下，刘黑闼在败退时被杀死。河北和山东地区，终归平定。

李渊在派李世民东征王世充时，还命大将李靖领兵南下攻取长江中游的萧铣。李靖出奇制胜，在长江水涨、萧铣认为他不能用兵时，李靖偏偏说服众将趁机进军，大败萧铣军。萧铣最后听从了中书侍郎岑文本的劝告，投降了唐军。

这一来，就只剩下了割据江淮一带的杜伏威，他占据历阳，自称总管。唐军围攻洛阳时派人招降他，杜伏威便投降了唐朝，被李渊封为吴王。杜伏威让属将辅公石留下统领兵将，自己请求入朝，留在长安做了人质。几年后，辅公石起兵反唐，称帝对抗唐朝，结果李渊将杜伏威杀死，派大将李靖等讨伐辅公石，当地武装归唐心切，捆起辅公石送往唐军营中，江淮地区也宣告平定。

至此，李渊经过10年的统一战争，终于扫平四方，统一了隋末农民起义军和隋朝残余将领割据各个地方，使天下归唐。