1857年1月初，李续宾率所部万人顺江而下进入江西，再攻九江城。九江自1853年9月被承平军占据后，一向在承平军手中。林启容在武昌将陷之时，就督军日夜缮守具，屯米粮，浚深沟，设炮台，以防湘军来犯。从1月6日开端，李续宾陆师与扬载福海军连战数日夜，攻城不下，遂决定窜改攻城战术，3月5日，他督湘军自宫牌夹起到东边白水湖尾构筑长壕，全长30多里，共6道，每道深2丈，宽3丈5尺，于6月筑成，三面合围九江。同时，他决定先扫清九江核心承平军据点，伶仃九江。
李续宾屡战屡胜，打击合肥，他有点心存幸运。因为三河镇位于界河南岸，东濒巢湖，是庐州西南的首要樊篱。该镇原无城垣，承平军占据后，新筑了城墙，外添砖垒九座，凭河设险，广屯米粮军器，布施天京，因此在军事上、经济上都居首要职位。当时承平军的守将是吴定规。
1854年，西征承平军逼近长沙。曾国藩所练湘军誓师出战，在湘潭大败承平军。自此开端，向西征承平军停止反攻，接连取得胜利，连克岳州等地，在岳州高桥，城陵矶等战役中，李续宾作战英勇，因功擢升为知县。
直到1858年3月20日，李续宾再次攻打九江城。此时九江城内储备的粮食已吃光，承平军靠种麦自给，仍固执抗击。5月8日，湘军挖隧道轰塌东门、南门城墙，登城兵士均被承平军投掷的大桶火药炸死炸伤，缺口重又堵住。此战，湘军死伤无数，胡林翼向朝廷奏报说，湘军伤亡士卒之惨，使将士莫不欷欧饮泣。