湖南首胜，湘军士气大振。经过一番休整，修好战争中受损的战船，咸丰四年（1854）六月，曾国藩率水陆大军从长沙再次出发，攻向湖北。

北上的第一道关口是湖南湖北交界的岳州。湘军水师一到，太平军水师出迎。太平军水师舰船当中大多数是没收来的商船，本非为战争所造，运转不灵，湘军水师则装备明显占优，特别是西洋大炮威力惊人。首战交锋，太平军大败而归，损失船舶一百余只。为了保存实力，太平军迅速撤离岳州，退守城陵矶要塞。

湘军乘胜追击，七月十八日，塔齐布率军首先赶到城陵矶，双方展开大战。城陵矶由太平军名将曾天养驻扎。塔齐布是湘军第一悍将，精于马术，善于骑射，仍保持着旗人入关之初的那种勇悍。年已六十的曾天养也是太平军的著名猛将，起义以来屡获胜仗，威名远震。这一仗短兵相接，因此打得异常激烈。战斗开始，太平军主动杀向湘军，湘军施放火箭，压制住了太平军的进攻气焰。曾天养大怒，亲自来到第一线。当他在湘军阵营中发现塔齐布后，大喊一声，匹马持矛冲入敌阵，直刺塔齐布。塔齐布急忙拨马躲避，曾天养的长矛刺伤了塔齐布的坐骑。但是塔齐布亲兵抓住机会刺伤曾天养，令他马蹶人倒，被湘军士兵乱刀杀死。

曾天养战死对太平军打击很大，太平军顿时人心动摇，军中大乱，再也无志与湘军争锋，湘军则一鼓作气，塔齐布率军分三路扑向高桥，将太平军七座营垒捣毁，随后又毁其营垒十三座。太平军水陆两军于是退守武汉。

城陵矶大战的胜利，使湘军士气高涨，水陆东下，沿途几乎没有遇到抵抗。水兵们露立船头，不披甲胄，不避枪弹，顺流直抵武昌城下。曾国藩对此非常得意，后来他在一篇笔记中说，当初创办水师时，曾经想尽办法，研究怎么挡住敌方射来的炮弹。尝试了多种方法，甚至将竹皮、湿棉絮、生牛皮、头发数层压在一起，做成“刚柔牌”都没有效果。后来杨载福等人干脆将牛皮等物摒弃不用，“直以血肉之躯植立船头，可避者避之，不可避者听之”，而部下水师官兵亦纷纷效仿，相率植立船头，“直前无所回避”[《曾国藩全集·诗文》，岳麓书社，2011年，第439页。]。可见湘军初起时的生猛勇悍。

武汉因其独特的战略位置，自古以来为兵家必争之地。曾国藩说，要平定太平天国，首先须从争夺武汉下手，只有夺取武汉，才能水陆顺流东下，进攻九江、安庆，直抵金陵。所以他全力谋取此城。

八月二十一日，曾国藩指挥湘军水师，先清理武昌城下的太平军水师。太平军水师指挥官乘坐彩船奋勇迎战。曾国藩悬赏夺取彩船者“赏钱百缗”。湘军水师冒死争攻彩船，太平军寡不敌众，率相溃逃。曾国藩又凭借湘军水师炮火的优势，摧毁了汉阳太平军在沿江所筑的防御设施，武昌城外太平军营垒全部丧失。

负责守卫武昌的太平军将领见湘军气势汹汹，丧失信心，于八月二十二日夜间带领精壮弃城逃往田家镇。汉阳守将见武昌失守，亦弃城逃走。这一对太平天国至关紧要的上游重镇，就这样被他们轻而易举地送给了湘军。

而且他们只顾自己逃命，竟没有预先通知停泊在汉水里的大批水军，汉阳失守后，这些船队被完全封死在里面，因汉水河身较窄，太平军水师船只拥挤在一起，千余号战船全部被焚，遭到彻底毁灭。

武汉收复后，湖广总督杨霈得知消息，率先上报咸丰。一开始，咸丰皇帝还不敢相信，仅作为传闻批转内阁。上谕称：“曾国藩等攻剿武汉情形尚未奏到……朕日盼捷音之至也。”[黎庶昌：《曾国藩年谱》，岳麓书社，1986年，第48页。]

又过了六天，曾国藩与塔齐布会衔的报捷奏折才正式送到咸丰皇帝案前。

太平军自从金田起义以来，所向克捷。定都金陵后，又西向占领了安庆、九江、武昌等重要战略据点，几乎没遇到什么强有力的抵抗。没想到，曾国藩率领的湘军异军突起，连续夺回湘潭、岳州，并且轻易夺取了两湖最大的城市武汉，迅速扭转了全国战局。

咸丰皇帝高兴得简直不知如何是好。他在奏折上批道：“览奏，感慰实深。获此大胜，殊非意料所及。朕惟兢业自持，叩天速赦民劫也。”[《曾国藩全集·奏稿》1，岳麓书社，2011年，第244页。]并立即按惯例，任命收复湖北的曾国藩为署理湖北巡抚。

发出这道批示，咸丰皇帝又召见军机大臣，通报了这一喜讯，并兴高采烈地对他们说，我看错曾国藩这个人了，看来他不光是能吹牛，还真是有点儿本事的：“不意曾国藩一书生，乃能建此奇功。”

就在这时，一位汉族军机大臣，趋前一步，低低地和咸丰皇帝说：“曾国藩以侍郎在籍，犹匹夫耳。匹夫居闾里，一呼，蹶起从之者万余人，恐非国家福也。”[薛福成著，丁凤麟、王欣之编：《薛福成选集》，上海人民出版社，1987年，第252页。]

也就是说，曾国藩本不过是以侍郎衔在家守孝的退休官员，如同一介平民。一介平民在老家一声呼唤，就能聚集起这么多人跟他打仗卖命，并且所向无敌，这恐怕非国家之福吧？

这句话改变了曾国藩的命运。