曾国藩在得到皇帝同意之后，便在家过起了乡居生活。他要求请假三年，其实也就一年半的时间，自咸丰七年（1857年）二月二十九日回家奔丧，到八年六月初七，他再度出山赶往浙江。这期间实际上是曾国藩一生思想、为人处世的转折点——曾国藩一番居家之后，大彻大悟了许多，前后判若两人。
曾国藩在家期间，不断地想起自己从办团练、建立湘军到奔赴战场的点点滴滴，想起在战场上牺牲的将士们，想起他所遭受的一切。一想起这些，他的心就异常痛苦。痛苦过后他就慢慢为自己疗伤，一边回忆，一边总结，他终于发现了自己在为人处世方面存在的错误。于是他苦读《左传》、《史记》、《汉书》、《道德经》、《南华经》等，希望从中能得到启发。终于他得到了答案：“大柔非柔，至刚无刚”，这正是他苦苦寻找的。他一下子从黑夜里看到了光明，心里的乌云也一下子散去，他知道以后他该如何为人处世了。
曾国藩居家一年多的时间里，战事发生了很大的变化。由于太平军的内讧，石达开于咸丰七年（1857年）五月率太平军的精锐部队撤出湖北战场，从而为湘军提供了有利战机。湘军趁机攻下了九江、瑞州、抚州等地，控制了两湖、江西等大部分地区。而下一步他们打算进攻安徽。
一次又一次的胜利，让咸丰帝格外高兴，于是他对湘军的将士们封官加赏。胡林翼加太子少保，杨载福为提督，李续宾升至巡抚，湘军的其他将领也得到了相应的封赏。这一切让曾国藩感觉很是不平，想想他辛苦创立的湘军，在战场上杀敌立功，将领们人人封官，而他却失去了光宗耀祖的大好机会。想到这些，他心里是什么滋味都有。
此时他虽然很想返回战场，可是碍于面子，他迟迟提不起笔。
咸丰八年（1858年），石达开率大队人马进入浙江，以惊人的速度攻占了常山、江山等地，准备对衢州发起进攻。此时胡林翼向咸丰上书，让曾国藩出山，带兵赴援浙江。胡林翼此次上书原因有二，一是让曾国藩助他一臂之力，二是报答曾国藩对他的推荐之恩，让曾国藩谋得一点实权。而皇帝也考虑到只有曾国藩才能统领湘军，他的地位无人取代，要想早日铲除太平军，只有让曾国藩出山。鉴于此种形势，皇帝便命令曾国藩出山统兵。
咸丰六年（1856年）六月三日，曾国藩接到谕旨再也没提任何条件就迫不及待地整装待发了。因为再次出山是曾国藩盼望了许久的事情了。这一次他满怀希望——经过一年多的深思熟虑，他相信自己一定能赢得更加精彩。
曾国藩首先来到长沙，会见了骆秉章和左宗棠，和他们一起共商大计。虽然在曾国藩刚居家时，左宗棠曾经骂他不该负气离湘军而去，不该向皇帝要官位。想到这些，曾国藩突然感觉左宗棠骂得对，如果自己当时不离开湘军，此时的他早已功名远扬了。这一次他要以老子的“大柔大非”以屈求伸的态度处理好与所有文武官员的关系。
当曾国藩见到左宗棠时，他以无比真诚的态度面对左宗棠，这令左宗棠很是感动，致使两人的距离近了许多，又像当初那样和睦了。在两人交谈间，左宗棠发现曾国藩已和以前大不相同。
之后，曾国藩又接连拜访了各衙门，他要为湘军和他自己搭桥铺路。作为一湘军大帅，亲自屈身小府小庙，且毕恭毕敬，这让长沙各级官府深受感动，因而他们表示一定全力支持湘军，为湘军提供兵马，提供粮饷。
经曾国藩和骆秉章、左宗棠商议，先由湘军张运兰、萧启江各带四千人，吴国佐带千余人，在曾国藩的率领下进入浙江，做好备饷备械的工作。
曾国藩在长沙待了十几天之后，赶到武昌。在武昌，曾国藩也像在长沙那样，亲自去各衙门拜访，且毕恭毕敬，而武昌城里的官员们也都表示全力支持，为湘军提供一切物资需要。胡林翼更是举双手赞同。做完这些事情之后，曾国藩坐船赶到了黄州府下游五十里处的巴河，与彭玉麟、杨载福、李续宾、鲍超等人会合。
见到了他们，曾国藩像见到亲人一样，免不了泪眼模糊。这一别就是一年多，这一年多里他时刻想念着这些和他出生入死的兄弟。但此时不是抒发感情的时候，几番问候之后，大家共商军机要事。经过一番分析，曾国藩做出了如下方案：由曾国荃率领吉字营围攻吉安；由李续宾、彭玉麟、曾国华、鲍超等营在安庆落足，进入安徽战场；由曾国藩率领其余部队支援浙江。
各军执行作战方案，依计行事。曾国藩率领萧启江、张运兰、吴国佐各部援浙。为保险起见，李续宾从自己的部队里拨出千余人作为曾国藩的亲兵护卫营。曾国藩想起江西巡抚还没去拜会，于是便命部队到江西河口待命，自己来到了江西巡抚衙门，见到了时任江西巡抚的耆龄。耆龄不像陈启迈、文俊那样故意刁难曾国藩，而是表示全力支持湘军，为湘军提供一切需要。曾国藩很是高兴，因为一直以来困扰他的军饷大事终于解决了。
咸丰八年八月，曾国藩率领部队驻守在赣闽两省之间的弋阳、双港、金溪等地。次月，在江西建昌驻守，准备入福建。此时的刘长佑也驻新城，准备入福建。曾国藩得到消息之后命令张运兰、萧启江由广昌、杉关入闽，而他的大营则一直驻在建昌。
这一次曾国藩的出山，可谓一路顺风。由于他的处世圆滑、“大柔大非”，让他取得了一系列的成就，改变了以前的困境。他认为，按照此进度，一年之内全歼太平军不成问题。可是事情的发展往往难以预料，谁也没想到，在接下来的时间里，军事形势会发生变动。