红一、三军团在林彪、聂荣臻的统一指挥下，于二月二十四日攻占桐梓，实现了毛泽东所要求的“初战必胜”。
但是，毛泽东认为：“初战的计划必须是在全战役计划的有机的序幕。”他明确要求红军高级指挥员，“在打第一仗之先，必须想到第二、第三、第四以至最后一仗大体上如何打法，我挨次的一仗胜了，敌军全局将起如何变化，倘若败了，又将起如何变化。”这就是毛泽东继“初战必胜”后的又一重要军事思想：“全局在胸”。“没有全局在胸，是不会真的投下一着好棋子的。”为此，毛泽东为实施攻占娄山关的第二战役，及时地与周恩来、朱德等军委的主要负责人进行敌情分析，一致认为“应乘虚占领娄山关”。因而在攻占桐梓的当天，军委下达命令：“红三军团到达桐梓后即挥师南进，向娄山关进军。”并明确电示彭德怀、杨尚昆：“夺取娄山关，是遵义战役的关键一着。”二月二十五日，毛泽东又电话指示彭德怀：“速令十三团（军委预备队）于今日天黑前攻下娄山关，占领点金山。”
彭德怀清楚毛泽东起用十三团的原因：这个团的前身是邓小平、张云逸等领导左右江起义形成的红七军，该团骨干广西人多，能爬山，善跑路，更能攻坚，又和王家烈打过几次交道，一定能按时夺下娄山关。因此，彭德怀向红十三团团长彭雪枫传达了毛泽东的指示。该团以急行军的速度，冒着毛毛细雨向娄山关进发了！
是日下午二时，彭德怀从被俘的敌人口中获悉：娄山关仅有柏辉章的三个团。另据窃听到的敌人电话称，敌杜少华旅在娄山关南五里之黑神庙。估计敌可能参战兵力在四团以上。为此，彭德怀建议“我们拟以迅速动作歼灭此敌”，第一、第三军团应于二十六日拂晓向黑神庙攻击，“干部团应赶上，在正面做预备队”。
诚如前文所述，这时的红三军团仍在林彪、聂荣臻的统一指挥下行动，因此，林彪也收到了彭德怀发给军委的电报。林彪除去赞同彭德怀提出的作战意见，也主张“应以主力在娄山关以南消灭此敌，以一部阻止桐梓以北之敌”。他认为红一军团刚刚攻下桐梓，十分疲劳，如果再马不停蹄地赶到娄山关，士气会受到影响，故于当天二十时致电军委：如一、三军团明日即行攻击，无法在明日上午包围迂回到娄山关以南，即令能赶到，必极疲劳，当日不能解决战斗。林彪主张于二十七日向娄山关守敌发起猛攻。
毛泽东与周恩来、朱德等军委负责同志审视了林彪的来电，一方面认为我军十分疲劳，但同时也看到了自桐梓一线向娄山关溃败的敌军不仅疲劳，而且已成惊弓之鸟；另一方面黔敌“有凭娄山关相机出击阻我南下，掩护遵义，以待薛（岳）敌来援的模样”，因而绝不能给敌人一天喘息之机。在否定了林彪“二十七日向娄山关守敌发起猛攻”的建议之后，遂于二十三时正式下达了《关于我军消灭娄山关黔敌夺取遵义的指示》。摘记如下：
敌情如你们所知，估计守娄山关、黑神庙的柏（辉章）、杜（少华）两部，可能为黔军第一、四、五、八、十五、十六共六个团或仅一部三个团……我野战军决以一部阻滞四川追敌主力，坚决消灭娄山关黔敌，乘胜夺取遵义城……我一、三两军团及干部团统归彭（德怀）、杨（尚昆）指挥，应于明二十六日迂回攻击娄山关、黑神庙之敌，坚决消灭之，并乘胜夺取遵义，以开赤化黔北的关键。
攻占娄山关战役，毛泽东为何改换桐梓战役的指挥系统，明令交由彭、杨统一指挥红一、三两军团呢？这是否与林彪提出推迟一天发起娄山关战役有关呢？笔者认为不是——起码不完全是出于这种原因。诚如彭德怀事后所说：“一、三军团在战斗中早就形成了这种关系：有时一军团指挥三军团，有时三军团指挥一军团，有时就自动配合。”另外，这时的红一军团刚刚攻下桐梓，而红三军团已经奉命派出红十三团奔袭娄山关，交由彭德怀、杨尚昆统一指挥红一、三军团夺取娄山关，是顺理成章的。
娄山关雄踞娄山山脉的最高峰——点金山。“关上茅屋两间，石碑一通，上书‘娄山关’三个大字，周围山峰，峰峰如剑，万丈矗立，插入云霄。中间是十步一弯、八步一拐的汽车路。”这种地势，兵家称之为“一夫当关，万夫莫开”的要地。换言之，敌我双方谁占据娄山关，谁就掌握了攻守的主动权。
当我红十三团奔袭娄山关的途中，“由俘虏口里知道敌人主力昨夜赶到喇板桥宿营，两个团伸出娄山关，其中的一个团又由娄山关向桐梓城前进，一个团巩固了娄山关的阵地”。这就是说，娄山关不仅被敌人抢到了手，而且还有一个团的兵力固守着。我十三团如要抢关，就不得不“仰攻”了。而“仰攻”夺关，乃兵家大忌，其困难是可想而知的了！
另外，当我红十三团赶到娄山关入关处发现：“右翼的山，一律是悬崖绝壁；中间马路，敌人火力封锁了；左翼的山，虽然无路，然而还可以爬”。我十三团团长彭雪枫为在黄昏前夺下娄山关，当即决定：“先派一个坚强而又机动的连，由最左翼迂回到娄山关之敌的侧右背。主力则夺取可以瞰制娄山关的点金山”。而“抢山、夺下点金山，这一艰巨的任务给了第一营”。接着，抢占娄山关的战斗打响了！为惜墨存史，现把彭雪枫团长记述攻占娄山关的文字抄录如下，以替代拙笔：
第一梯队进入冲锋出发地，第二梯队在不远的隐蔽地集结，火力队位置于指挥阵地中对着敌人猛烈射击。冲锋信号发出了，喊声如雷，向着敌人的阵地扑过去，一阵猛烈的手榴弹，在烟尘蔽天一片杀声中夺得了点金山。
登临点金山顶，可以四望群山，娄山关口也清楚地摆在眼前，敌人一堆一堆地在关的附近各要点加修工事。娄山关，虽然不远，然而仍需翻过两个山头，而这两个山头，都被敌人占据着。机关枪连续地向着我们射击，这是敌人最后挣扎的地方了。
将近黄昏，加以微雨，点金山的英雄们并未歇气就冲下去。疲乏、饥饿控制着每一个人，然而并未减少他们的勇气。在团的首长直接领导之下，组织了冲锋。配备了火力，一阵猛烈射击，一个跑步，敌人后退，但不等你稳固地占领这一阵地。他们又呐喊着反攻回来了，阵地又被敌人所恢复。第二次、第三次、第四次。终究不能奏效。大家看得清楚，有一个军官，在后头督阵……红色战士们冲锋之后休息的空隙，向着白军弟兄们喊话。
“打死他，特等射手！”指挥员的命令。于是集合了四五个特等射手，集中向着那位官长瞄准。一声“瞄准——放！”军官倒了，冲锋部队乘机冲上去，敌人好像竹竿之下的鸭子，呼哈呼哈地滚下去了。
娄山关的整个敌人，因之动摇，自取捷径各自逃去。
娄山关占领了！娄山关是我们的了！
红十三团攻占点金山及娄山关口之后，彭德怀与杨尚昆立即部署全歼娄山关之敌：为确保红十、十二、十三团围歼娄山关守敌，以红十一团从左翼远出迂回娄山关南端板桥敌人，并切断退往遵义的后路；红十二团接替红十三团担任正面进攻；以红十、十三团从两翼包围。这样就形成了从四面合围娄山关之敌的进攻态势。
接着红十一团受命之后，借着夜幕避开敌人，冒雨在又陡又滑的山路上急行军，于二十六日拂晓赶到娄山关通往遵义的必经之路板桥镇，突然发起猛攻，打得敌人惊慌失措，仓皇溃退。
红十二团于二十六日拂晓赶到娄山关口，接替红十三团阵地之后，遂进入临战状态。
红十团奉命迂回到娄山关右翼，待命发起攻击。
与此同时，红一军团的第一团也抢占了娄山关东侧的石炭关。
夜幕即将消失，黎明就要到来，彭德怀军团长一声令下，军号声、枪炮声、喊杀声……猝然之间响彻天空，淹没了娄山关，打得敌人乱作一团。
黔敌虽然已经落入中央红军预设的包围圈之中，但他们深知娄山关的重要，从二十六日清晨起，就集中全部火力发起一次又一次的反扑，妄图夺回失去的阵地，把中央红军赶到娄山关以外的山地中。与此同时，蒋介石命令空军飞临娄山关上空，向红军阵地投下一枚枚炸弹，希冀协助黔军固守住娄山关。但我英雄的红一、三军团在彭德怀、杨尚昆的统一指挥下，坚守阵地，在打退敌人进攻的同时，遂又把阵地向前推进。待到下午四时，固守娄山关的三个团的黔敌大部被歼，残敌夺路向着遵义方向溃逃，娄山关被我英雄的红军占领了！
毛泽东闻报惊喜非常，就在我中央红军全部攻占娄山关不久，便一口气登上娄山关。恰在这时，阴霾的天空突然露出了笑脸，他远眺如血残阳映照巍峨的群山，俯瞰依然飘着硝烟的战场，不由浮想联翩，心潮澎湃，诗兴大发，多年的积累于一瞬间酝酿成一首名词《忆秦娥.娄山关》：
西风烈，
长空雁叫霜晨月。
霜晨月，
马蹄声碎，喇叭声咽。
雄关漫道真如铁，
而今迈步从头越。
从头越，
苍山如海，残阳如血。
这首词，不仅真实地记录了娄山关战役的全过程：即于“西风烈，长空雁叫霜晨月”的夜幕中，我中央红军穿插行军、布阵；接着，就是犹如“马蹄声碎，喇叭声咽”的厮杀；待到“苍山如海，残阳如血”的时刻，我中央红军胜利攻占了娄山关。同时，也真实地反映了毛泽东在遵义会议前后的心情，以及对未来中国革命的伟大抱负：“雄关漫道真如铁，而今迈步从头越。”但是，诚如诗人多年之后自注：“万里长征，千回百转，顺利少于困难不知多少倍，心情是沉郁的。”这道出了一个真理：毛泽东作为豪放派的一代诗人，他可以藐视一切困难，朗朗唱出“而今迈步从头越”；可是，当他作为军事家、政治家正视与解决困难的时候，他又是一个非常现实的人，“心情是沉郁的”。
娄山关失守之际，恰值王家烈由贵阳赶到遵义，正在部署固守遵义的战事。他这时的处境十分困难，用他自己的话说：“蒋介石的办法是：一面追击敌人，一面乘机攫取贵州政权。因而薛岳既断了我的财税收入，又不发给我部队的伙饷。同时他直接调动我的队伍，不让我集中部队（防我另打主意）。因此，我身边只有第一团、第五团、第八团三个团的兵力。”他这时内心的真实想法是：红军“回攻遵义，势在必得。要硬打嘛，众寡悬殊；不打嘛，我身边又有蒋介石派的督察专员——路邦道和潘壮飞监视我，内心惶恐不安”。为此，他暗中对遵义的乡亲说了如下这段话：
“红军力量大，我的力量单薄，我打算离开遵义，你们为了安全，赶快疏散。”
与此同时，他为了不负他日丢失遵义之责，遂给贵阳的薛岳迭电告急，其中一封电报写道：“我杜（少华）旅在红花园、黑神庙、小箐、观音阁一带，与‘匪’三师约万人，于有（二十五）日晨九时激战至宥（二十六日）晚，伤亡极重……现‘匪’先头已进至板桥南端之观音阁。查其企图，似有扑遵义之势。遵城兵力太单薄，守亦不易，现固守待援。”不久，他即接到薛岳即可发兵增援遵义的复电。为此，他又选择了死守遵义一途，并对守城之战做了如下布置：
命第八团开赴遵义城北十华里之董公寺一带构筑阵地，准备迎击红军，并掩护由娄山关退下来的第六团；命第一团在董公寺以西飞来石一带构筑阵地，准备抵抗；第五团刚由金沙开来，其后尾尚未到齐，命该团迅速在遵义城垣集结待命。
但是，毛泽东经过审时度势，断定薛岳所部两天之内难以赶到遵义救援，单凭王家烈的黔军是无法固守遵义的。因此，他不失时机地于二十六日二十时，以野战军司令部名义命令：“一、三军团仍由彭（德怀）、杨（尚昆）指挥”，“乘溃敌喘息未定跟追直下遵义，并准备打击援遵（义）的薛（岳）敌唐（云山）、韩（汉英）两师”。彭德怀、杨尚昆根据毛泽东乘胜攻占遵义的命令，研究了敌我双方的态势，遂于二十七日二时半发布如下《迅速夺取遵义城并继续消灭其可能来援之敌》的命令。现摘记如下：
三军团于三时前由四渡站下坝之线出发完毕，沿马路向遵义速进，消灭或驱逐沿途溃敌，直逼遵义城而占领之。如敌固守遵义时，则十一团、十团、十二团由遵义城东北向新老城攻击，十三团集结于老城西北，对牛蹄塘、毛石坎方向警戒，并派出侦察，十一团应以一部占领老城南端之红花冈、碧云峰高地，并向鸭溪场方向侦察警戒……第一军团以集结主力打击增援之敌为目的，尾三军团后进到遵义城东南水师坝及其东北集结，必需时准备一部由新城东门协同三军团攻城，对懒板凳及湄潭方向警察……
二十七日拂晓，我红三军团在彭德怀军团长的亲自指挥下，向遵义城北要地之董公寺、飞来石一带发起猛攻。守敌据险顽抗。双方为争夺战略要地，几进几出。“这时黔军第一团团长江荣华在飞来石被我红军打伤，阵地为之动摇。红军乘隙包抄第八团之左侧，战斗更趋激烈，是时（敌）副旅长杜少华在第八团阵地负伤。由于第八团地势有利，红军屡攻不下，阵地才得守住。”
这时，“王家烈见红军两翼逼近城迈，而吴奇伟部又须次日（二十八）才能赶到，就急忙命第一、五、六团退守城内……第八团继续与红军保持接触，必要时退至南关高地，扼守遵义至贵阳的交通要道，策应来遵（义）之吴奇伟部”。王家烈部署完毕之后，匆匆“带手枪兵一排，出南郊往忠庄铺，预期与吴奇伟见面，商量如何协同动作”。据王家烈回忆：他出遵义城的时间是下午三时。
事有巧合，毛泽东也于是日下午三时以军委的名义向彭德怀等通报敌情：“遵义溃敌残余除原有第一团外，其在鸭溪、湄潭之数团均可于今晚赶到，薛（岳）敌之九十三、五十九两师可能二十八日下午到遵义……情况如此迫切，而又是转圜战局的战役”，故要求“红一、三军团集中全力实行迂回，务期于二十七日歼敌，勿使良机稍纵”。
为此，我红军向守城之黔军发起更加猛烈的攻击，使得守城的黔军受到重大伤亡。或许是守敌已知王家烈从遵义撤出，他们为了保全有生力量，“第一团由飞来石现地向遵义西郊之马坎退却；第六团因在娄山关打了两天一夜，也过分疲乏，即向西郊之牛蹄场退却；第五团除留几个兵在红花岗作瞭望外，全团向西郊牛蹄场方向退却；第八团于黄昏后退到南门关高地警戒”。
这样，我红三军团于二十七日黄昏未遇强烈抵抗，即占领遵义新城。我红一军团军团长林彪、政委聂荣臻于是日二十一时向野战军司令部报告：“新城敌已退，我军已入城。”毛泽东当即指示红一、三军团：“应该于今夜火速解决消灭残敌，另以有力部队乘胜跟踪退敌，并截击其左侧，只与其援敌保持接触，侦察其新部署，而一、三军团主力则在残敌解决后集结于遵义城南适当地点，先准备今夜或明二十八日拂晓攻击敌增援部队。”同时，告知“已令干部团于明午赶到遵义接城防”。二十八日晨七时，林彪、聂荣臻向野战军司令部报告：“遵义新老城于本二十八日晨完全占领。”
至此，红军二占遵义的战斗结束。
就在我红三军团占领遵义新城，分兵两路，从东西两侧逼向遵义老城的战斗中，我红三军团参谋长邓萍在亲临阵地前沿侦察地形与敌情时，被敌人的冷枪打中头部，当即牺牲。
邓萍是我军优秀的指挥员，从平江起义始，就与彭德怀战斗在一起，任彭的参谋长。在长达近七年的战斗生涯中，他们两人不仅为红三军团的壮大、发展献出了全部心血，而且也结下了深厚的战斗情谊。因此，彭德怀听到战友邓萍牺牲的消息后，悲恸欲绝，立即赶到现场，抚摸着邓萍的遗体，一迭声哭喊着：“邓萍同志！邓萍同志……”当他擦去满面的泪痕之后，又与政委杨尚昆商定：在向中央报告邓萍牺牲消息的同时，请求叶剑英接任红三军团参谋长一职。毛泽东与周恩来、朱德等研究之后，遂同意了红三军团的请求。这样，叶剑英就在这关键的时刻走马上任，就任红三军团参谋长之职。
同时，毛泽东作为大战略家，他又在做另外一篇大的文章：利用敌吴奇伟部两个师赶来解救遵义之危，再在遵义城南演出一场更为壮观的围点打援的好戏。对此，彭德怀等前线指挥员当即做出决定：红三军团主力摆在正面——遵义城南老鸦山与敌展开激烈的争夺战，将吴奇伟由贵阳赶来的两个师的援敌击溃，并穷追不舍；红一军团趁着夜色由左翼悄然迂回到敌人的后边，待战斗打响之后，从侧翼出击，包抄敌人的退路，利用乌江天堑，将援敌消灭在乌江北岸。
正当彭德怀根据毛泽东等及军委指示，在遵义城南、乌江以北悄然部署围点打援之际，早已退至忠庄铺的王家烈终于等来了吴奇伟。吴氏自恃带来了两个师的援兵，简单地交换了所谓遵义的战况——王家烈并不知晓所部已全部退出遵义，吴氏就下车伊始地说了这番话：
“我带的第四军（两个师）正在行进途中，大约再有一两个小时可到。我们现在的任务是反攻遵义，应协力作战。”
王家烈一听这口气，遂暗自决定把收复遵义的任务交由吴奇伟两个师。为此，他有意情绪低沉地说：
“何知重师长已带三个团追击未回，第一、五、六团现在马坎集结，我身边只有第八团。”
在吴奇伟的心目中，红军与黔军虽未两败，但已俱伤。时下，唯有他的两个师未经战火的消耗，是最有战斗力的。所以，他十分狂妄地说道：
“我有两师零一团（即黔军第八团）兵力足够反攻，你的意见，看怎样打法？”
王家烈一看保全黔军的目的达到了，就以参谋的身份指出：
“当前地形，我们的主力应由西侧隐蔽地向桃溪寺前进，首先将红花岗占领。”
“好，好！我们再具体地谈一谈。”
王家烈以地头蛇的身份与所谓“强龙”吴奇伟会商战事，最后，他们共同商定：
川黔公路（不含）以西由中央军担任向红花岗攻击前进；川黔公路（含）以东一带高地，由第二十五军（第八团）担任坚守。指挥所（吴奇伟、王家烈）位置于忠庄铺北端。
接着，吴奇伟下达作战命令：第九十三师占公路右侧高地，第五十九师占领南门外红花岗、老鸦山一带高地。两师主力与第二十五军城南留置部队万式炯部全力反攻，坚决收复遵义。
但是，吴奇伟坐在指挥所内并不知道：“红军昨夜已入据遵义城，并已占了红花岗险要阵地。红花岗屏障着老城，居高临下，瞰制各方，是历来用兵争夺的关键。中央军仰攻该地，在红军的大力瞰制下，伤亡很大，进展极难。公路以东各高地，筑有工事，双方拉锯争夺，无多大变化。全线经过六小时的激烈战斗，蒋介石派飞机两架来向阵地投弹助威，红花岗的红军仍屹立未动。”
恰在我红三军团在正面死死拖住吴奇伟所部两个师的兵力，并“将其沿红花岗山麓冒死钻进谷地，大受伤亡之际”，我红一军团一部由公路以东之甘堰塘、南公山向敌右后方（忠庄铺的后方）迂回，另一部由官田垭抄出公路，直射吴奇伟与王家烈设在忠庄铺的指挥所；“同时向阵地较薄弱的方面——第二十五军第八团进行侧面进攻，与该团短兵相接，反复肉搏，以致全线动摇”。接着，我红一军团一部向着忠庄铺发起猛攻，步步逼近指挥所。到这时吴奇伟、王家烈才知道所部已钻进红军预设的口袋中，弄不好全军将要成瓮中之鳖，到那时他们这两位最高指挥官也要当红军的俘虏。为此，吴奇伟下令全线撤退之后，急忙跳上早已备好的汽车逃向贵阳；王家烈也迅速跳上马，夺路逃向金沙。
这时，我红一、三军团已将吴奇伟、王家烈的部队团团围住。“中央军的两个师，接到后撤的命令时，已欲进无门，欲退无路了。据守在红花岗上的红军，正面出击。韩、唐两师狼狈溃退，被红军消灭过半”。接着，我红一、三军团并肩向敌人发起了追击战，在我红军勇猛快速、锐不可当的追击下，敌人演出了一场“兵败如山倒”的丑剧，你挤我推，夺路南逃，只恨爹娘没有给他生一双飞毛腿！
毛泽东与周恩来、朱德等军委首长要求我参战的红一、三军团要下定决心，不怕疲劳，乘胜追击残敌，继续扩大战果。为此，向所有参战的指战员指出：“这一追击的决战，关系全局的胜负，无论如何要扩大战果到消灭其全部，不能丝毫动摇。”
我红军根据军委的指示兵分两路：以红三军团一部向鸭溪方向追击，以红一军团一部向懒板凳方向追击。全体指战员发扬勇敢战斗、不怕疲劳和连续作战的作风，忘记了饥饿，忘记了劳累，也忘记了雨天路滑，他们只有一个想法：不让残敌逃走，都要成为红军的俘虏！
吴奇伟乘车到达了乌江北岸，接到薛岳发自昆明的电令：坚决打退红军，不准过江。这时，溃退的部属像黄蜂一样由北向南逃来，更令他心惊胆战的是，伴随着枪声又隐隐传来“缴枪不杀”的喊声！过江吧，无法向顶头上司薛岳交差；不过江吧，势必做红军的俘虏。怎么办？他拿不定主意。最后，他竟然仰天大呼一声“好！我就死在这里吧！”遂痛不欲生地哭了……
吴奇伟的警卫参谋尚还镇定，他下令强行把自己的上司绑架似的扶上了桥，狼狈地逃到了南岸。
吴奇伟站在乌江的南岸，再一听红军越来越近的枪声和喊声，他担心红军乘胜抢渡乌江，遂又下令砍断了乌江上的浮桥。结果，尚未逃过乌江的中央军、黔军，全部当了红军俘虏！
三月一日上午，整个遵义战役胜利结束！是日，毛泽东、周恩来、朱德等中革军委负责同志及中央领导进入遵义。毛泽东作为主要的指挥者，一边审阅有关的战报，一边在回忆这些天来的战斗，渐渐地形成了一篇极富鼓动性的文字。内容如下：
在二月二十四日到三月一日六天的战斗中，我英勇红军把白匪从桐梓一直打到乌江以南，连续击溃王家烈全部和吴奇伟两个师，共二十余团，连夺桐梓、遵义两城和娄山关天险，横扫两百里，缴获步枪两千余支，轻重机枪及自动步枪三十余挺，子弹三十万发，军用品不计其数，敌死伤千余，俘虏官兵两千余名，敌狼狈逃窜，丧魂落魄，这是我中央红军从反攻以来空前的胜利，也是反对五次“围剿”以来一年半中空前的大胜利，这个胜利基本上粉碎了敌人的追剿，初步地奠定了我们创造黔北新苏区的基础。
但是，毛泽东在瞻望未来的革命前程时，他的脑海中又浮现出这样一句话：“我们这次的胜利，还仅仅是开始的胜利……”