曾国藩的可贵之处就在于经过屡次失败之后，仍能坚强不屈地站起来，勇敢地面对眼前的一切困难和挫折。当他坐困江西，受着痛苦煎熬的时候，他仍想着如何重振湘军水师，因为在他看来，只有这样，挽救大清才有希望。

可以说水师是曾国藩的命脉，当他看到蜷缩在江边那歪七扭八的战船时，他的心就像刀绞一般难受，异常悲痛。水师的将领都是由他亲自选拔的，在他心里水师比陆师更亲近一些。现在湘军水师惨遭重创，曾国藩绝对不会弃水师于不顾，他决定要重振水师，扬湘军之威。

为了让水师早日恢复以往的生气，曾国藩要求湖北的造船商日夜赶造新船和修复旧船。并通知在湖北的彭玉麟招募新兵，增加水师的力量。为了救出被困在鄱阳湖内的水师，曾国藩亲自跑到江西省城南昌，找到巡抚陈启迈，让他为湘军提供帮助。经过一系列的努力，湘军的外江水师又恢复到以前的规模，鄱阳湖内水师的规模也壮大了许多。此时的曾国藩让彭玉麟打扮成商人的模样，穿过了太平军的控制范围，顺利地和鄱阳湖内的水师取得了联系，然后由他率领这支队伍冲出湖口，与外面的水师会合。他们先是驻扎在南康府，等待时机。

与此同时，外江水师也增加了战船、军饷等所需物资。力量壮大了之后，他们开赴湖口，向湖口发起进攻。在进攻的过程中，萧捷三不幸身亡。兵不能一日无将，曾国藩马上下令命彭玉麟从湖北赶到江西。接到命令的彭玉麟马上再次化装成商人模样穿过了太平军的控制地区，然后步行百里来到江西南康府接任水师统领。从这时起，湘军水师的定制是：分内湖水师和外江水师两部分，由彭玉麟和杨载福统一带领。

此时的太平军为了迎接湘军的水战，也设立了船厂，日夜赶制战船。咸丰六年（1856年）三月，太平军的战船已上百只。曾国藩得知这一情况之后担忧了好多天。他想，不能让对手水师力量壮大，一定要想法除去这个大隐患。于是他就命杨载福全力以赴地去消灭太平军水师。得到命令的杨载福率湘军水师攻击太平军的水师，没想到太平军水师自知初建，力量薄弱，抵不过湘军水师，每次都避开湘军水师的攻击。硬攻不行，只好改变策略。杨载福挑选了三百名壮士组成敢死队，他们冲入太平军的水师营，放火烧毁了太平军的全部船只。这使得湘军水师又控制了长江水域，而且也使得曾国藩看到了一丝希望之光。

经过调整之后的湘军水师，实力比以前更加雄厚了。太平军也许没有想到，水师惨败之后曾国藩能在极短的时间内重整出如此强大的一支水师队伍。水师力量强大了之后，曾国藩把陆师的力量分减到胡林翼处，因为他们两个部队一个在长江上游，一个在长江中游，彼此相互照顾，成为犄角，所以曾国藩和胡翼林就是太平军的主要对手。胡林翼以前是曾国藩的部下，他所拥有的主要力量还是曾国藩的湘军。在以后数次的作战中，曾国藩和胡林翼相互配合，他们之间达成了一种默契，而这一点也正是太平军失败的原因之一。