曾国藩安葬了母亲之后，感觉自己太累了，便想好好休息休息。

可与此同时，太平军不断胜利，所到之处，势不可当。虽然长沙已不在太平军的围攻之内，相对来说比较安全，但这却是太平军有意撤退，他们想加快北上的速度，而并不是被清军打败。

太平军勇猛善战，很快便占领了汉阳和武昌。而和太平军比起来，清军则是不堪一击，一触即溃，实在是丢尽了咸丰帝的脸面。

咸丰二年（1852年），太平军以惊人的速度攻入湖南，连克州县，此时湖南省各地的义军纷纷响应，加入他们。八月，太平军便攻下了长沙，各地的地主富豪及湘中名宦也纷纷带着家眷四处逃难。其中，郭嵩焘兄弟和左宗棠兄弟也逃到了玉池山梓木洞。同年年底，一路旗开得胜的太平军战意正盛，没有一点疲倦之感。接下来，他们兵分两路，水陆并进，共同攻向湖北，“帆帜蔽江，所过城镇，望风披靡”。

和太平军的威力比起来，清政府的军队可谓不堪一击，节节败退，输得是惨不忍睹。太平军每到一处便攻下此处，而当地驻守的清军则纷纷逃命。这一年年底，太平军攻下了武昌。这种发展势态让清军不寒而栗，特别是大清皇帝更是惶惶不可终日。他派出去镇压太平军的将领不是战死沙场就是做了逃兵，让太平军在短短的时间之内便占领了数座城市。大清的半壁江山已不保，因此咸丰帝气得要命。其实，以前咸丰帝也知道八旗兵和绿营兵懒散软弱，没有斗志，可是他没想到是如此软弱，像一盘散沙，风一吹便散了。此刻，一想到大清的前途，咸丰帝就是一脸愁云。在苦思了良久之后，他想到了一个救国良策，那就是各地的团练，这是一支不可小视的武装力量，可以用来对抗太平军。

因为此时的太平军势力已经远远超过了清军，在咸丰帝看来，眼前只有这个良策能救大清。于是，咸丰帝立即下令任命请假或生病在家的官员为团练大臣，因为他们熟悉当地环境，拥有当地的人际关系，若利用这些优点把具有号召力的地方官员组织起来，这比朝廷派下来的钦差大臣管用得多。1852年，咸丰帝任命刑部尚书陈孚恩为江西团练大臣；第二年，咸丰帝任命广西巡抚周天爵为团练大臣；同年又任命工部侍郎吕贤基为团练大臣。让人吃惊的是在1853年仅一个月之内被任命团练大臣的就多达四五十人。其中，山东一省就有十三人被任命为团练大臣，可见咸丰帝对各地团练的重视。一时之间，全国上下掀起了一股办团练的热潮。而曾国藩则是此时被任命的湖南团练大臣。

1853年1月8日，曾国藩接到了帮办湖南团练的命令。但当时的他正沉浸在丧母之痛中，并无意出山。

而此时的太平军已攻至湖南，并连连获胜。湖南的一些地方官吏、地主及士人都纷纷劝说曾国藩办团练来对抗太平军，以保地方安宁。同时，一些湖南的朋友也纷纷来信请其出山，组织地方武装力量，来保卫大清。江忠源便是其中一位。这江忠源可不是等闲之辈，此人早在道光末年就主动要求举办团练，和起义力量相对抗。在道光二十七年（1847年），他组织起的一支武装力量和当时的起义者进行斗争，最终大获全胜。之后受到曾国藩的推荐，被朝廷重用。当太平军起义时，江忠源也弃官从军，和其弟江忠浚一起参战。在多次战斗中，他表现出色，英勇杀敌，成为了士兵的楷模。由江忠源所率领的部队强过清兵十倍，虽然他们没有清兵丰厚的俸禄和先进的武器，但他们却比清兵更勇敢，更善战。可以说，他们是地方武装力量的表率和先导。在江忠源闻听曾国藩准备出山办团练之后，他多次写信给曾国藩表示大力支持，并会鼎力相助。

另有好友罗泽南也鼓励曾国藩出山办团练。曾国藩和他已多年不见，此时的罗泽南以举人的身份和乡村老师的地位，组织了一支武装力量。他忠于清朝，仇恨起义，在他的倡导和影响下，他们的队伍日益壮大，像王、李续宾、李续宜、蒋益沣等人都是他的得力弟子，后来他们都成为了湘军的得力干将。当罗泽南见到曾国藩时，他感谢曾国藩当年向皇帝推荐他，同时他还劝说曾国藩出山组织地方团练。

此时湖南的巡抚张亮基也力请曾国藩出山。在太平军攻打长沙时，张亮基被任命为湖南巡抚，咸丰帝命他赴长沙镇压太平军。当时身为教师的左宗棠便投靠了张亮基，做了张亮基的幕僚。左宗棠早就听说了曾国藩的非比寻常，便告诉张亮基，曾国藩可用。于是，张亮基便上奏皇上要求曾国藩出山镇压太平军，同时他还写了一封信给曾国藩请求出山。

看过张亮基的信之后，曾国藩犹豫不定，顾虑重重。其一，因为此时母亲的灵柩还没安葬，他觉得此时出山对不起母亲——如果此时出山，在他看来，就违背了儒学的为父母丁忧离职守制之大礼，是为不孝。自己处处讲孝道，重孝道，如果不能为母亲守孝，岂不被天下人耻笑。其二，自己一辈子只知道读书，对兵家之事一窍不通。如果投身战场，必会两眼茫茫身陷困境，到时免不了会失败，到那时不仅官职难保，恐怕连性命也会丢掉。其三，曾国藩深知官府的腐败，带兵打仗，要有人，要有权，要有财，总之需要很多东西，并不是简单的一个人就能完成的，这期间要协调许多关系，才能把一件事办好，其复杂程度令人难以想象。

于是，曾国藩便写信婉拒了张亮基的邀请，同时让张亮基代发辞谢咸丰帝的命令，他要为母守孝三年。

这时，太平军攻克了武汉，下一站便准备向湖南进军。这一下，湖南巡抚张亮基如热锅上的蚂蚁再也坐不住了——如果太平军真的来到湖南，湖南势必不保，到时候自己的人头也会落地。想到这里，他命郭嵩焘连夜赶往曾国藩家，无论如何也要劝说曾国藩出山，不然整个湖南就会变成太平军的天下。

郭嵩焘是曾国藩的至交好友，他们经常通信，诉说彼此的悲欢。郭嵩焘也是一位侠义之士，忧国忧民，他反对太平天国起义，维护大清，所以他也十分赞同让曾国藩出山。来到曾家后，郭嵩焘祭奠了曾国藩的母亲，然后他便和曾国藩谈起了当今国事。当谈及太平天国起义大清失去半壁江山时，郭嵩焘的脸上显现出了十分气愤的表情，他握紧拳头，表示一定要踏平太平天国。而曾国藩此时仍然表示要为母守孝，不能出山。郭嵩焘则力劝曾国藩：“公素具澄清之抱，今不乘时自效，如君王何？且墨经从戎，古制也。”他深知曾国藩对大清忠心耿耿，一心想为国为民尽忠。他劝曾国藩趁此机会再次施展抱负，建功立业，出人头地，并举了一些例子。可曾国藩却仍然坚持己见。这让郭嵩焘很是为难，无奈之际，他请出了曾国藩的父亲，在父亲的一番劝说和训斥下曾国藩才答应出山。

“忠”、“孝”不能两全，为了“忠”曾国藩再次舍下了“孝”。他在出山之前，安排好了家里的所有事务，只有这样他才能放心大胆地开始办团练。他的四个弟弟都要跟着前往，但曾国藩只带了曾国葆一人前行，并告诉其他兄弟，在家为母守孝，孝敬父亲，协助父亲管好家务，必要时再通知他们前往。

咸丰二年（1852年）十二月十三日，曾国藩再祭母灵，他请求母亲原谅他的不孝，同时他也愿母亲的在天之灵保佑他一路平安。祭完母亲之后，为了大清的长治久安，曾国藩便戴孝出山了。