战斗打到5月3日下午13时，天主教堂据点的硝烟还在街巷间翻卷，日军残部被挤压至铁路大楼与老城鼓楼两处孤立核心，困兽犹斗。第51集团军211师、第56集团军先头部队按营连分割清剿残余街区，团部前移至天主教堂残破钟楼内，有线电话快速架设，各营以班排为单位，沿侧巷、后弄迂回压缩，杜绝小股日军钻巷流窜、偷袭后勤线。
631团1营营长陈峰收拢部队，清点伤亡：1连阵亡14人、伤22人，2连沿后街推进时遭阁楼冷枪，排长重伤，3连作为机动，扼守正街与十字巷交汇口，防敌突围反扑。街面青石板被血浸得发黑，碎砖、断木、丢弃的三八大盖与歪把子散落路侧，几名卫生兵蹲在墙角包扎伤员，担架队穿梭往来，将重伤员优先转运至江岸野战医院，轻伤员裹上纱布便归队待命。
“各连以班组梯次推进，先清两侧夹巷，再向铁路大楼东侧压进，遇大型建筑先封控再攻坚，不许单兵冒进！”陈峰对着步话机下达命令，身旁通信兵快速记录坐标，迫击炮班在巷口死角构筑临时阵地，炮口对准铁路大楼西侧围墙，随时准备压制露头火力。
铁路大楼为四层钢筋混凝土结构，原南浔铁路九江站办公主楼，墙厚逾半米，窗口被沙袋封堵，仅留射击孔，楼顶架设2挺九二式重机枪、1门九二式步兵炮，底层构筑环形街垒，连通地下廊道，驻日军约600人，含第13师团残编2个步兵中队、工兵分队与师团直属警卫小队，吉田经太郎将临时指挥所迁入大楼地下室，依托坚固结构拖延待援，同时令残存狙击手分散布于周边三层民居楼顶，专打军官与重武器操作手。
13时27分，631团3营7连沿铁路路基迂回北侧，刚抵近货场围墙，楼顶重机枪骤然开火，子弹扫过路基碎石溅起一片白芒，走在排头的排长左臂中弹倒地，两名机枪手刚架起马克沁，便被一发步枪冷弹命中肩胛，当场失去作战能力。连队迅速卧倒，依托废弃车厢与货垛隐蔽，连长当即呼叫营属迫击炮压制，两发炮弹掠过楼顶，炸塌一角掩体，机枪声短暂沉寂，旋即又从相邻窗口续上火力，日军射手依托墙体死角交替转移，压制推进路线。
“派爆破组从西侧民房穿墙抵近，用炸药炸塌底层外围街垒，同时抽调2挺重机枪占邻房屋顶，钉死楼顶步兵炮位！”3营营长迅速调整部署，爆破班4人背负12公斤TNT炸药，沿窄巷贴墙匍匐，利用房屋夹层凿开墙体潜行，中途遭阁楼掷弹筒袭击，1名爆破手小腿被炸伤，仍咬牙将炸药包贴紧大楼底层墙角，拉火后撤。
轰——
剧烈爆炸撼动整栋大楼，底层西南角墙体向内坍塌，沙袋街垒崩碎，露出宽近4米的缺口，烟尘裹挟碎石翻涌而出。7连突击班趁势突进，刚冲入缺口，廊道内窜出6名日军，端刺刀猛扑，班长挥枪托砸开迎面刺来的步枪，步枪连射放倒2人，其余日军被跟进班组以冲锋枪扫倒，残兵退入二楼楼梯间据守，投掷手榴弹封锁梯道，碎片飞溅划伤3名士兵，突击班暂退缺口，以烟雾弹遮蔽梯道，再以手雷逐层清剿。
与此同时，632团2营从东侧居民区穿插，遭遇日军3人狙击小组盘踞三层茶楼，专打往来通信兵与炮兵观测员，先后击伤2名前沿联络官。5连派出2个3人战术组，一组从正面以步枪点射牵制窗口，一组攀邻房屋顶迂回，抵近茶楼天窗投掷催泪弹，待日军慌乱逃窜时精准射杀，拔除狙击点后，顺势推进至大楼东侧围墙，以火箭筒轰击二层射击孔，连续两发命中，墙体穿孔，内部机枪哑火。
江防军直属舟桥部队输送的2门75毫米山炮，沿打通的正街推至距大楼220米处，拆除炮盾以民居墙体掩护，实施直瞄射击。13时58分，首轮三发高爆弹轰在大楼三层外墙，钢筋弯折、混凝土剥落，步兵炮阵地被直接摧毁；第二轮穿甲弹击穿底层残存加固部位，地下廊道通风口崩塌，地下室通信线路中断，吉田经太郎与外围残余部队失联，仅能凭传令兵徒步传递命令，各部指挥陷入混乱。
城北方向，56集团军新18军229团3营清剿鼓楼周边，战况同样胶着。鼓楼为砖木夯土高台建筑，底层砖石基座厚实，上层木质楼阁易起火，日军400余残兵依托基座射击孔扼守四条街巷，囤积汽油桶预备纵火阻截。9连两次强攻鼓楼正面街口，遭掷弹筒覆盖，伤亡8人后撤回重组；营长令8连迂回西侧窄巷，以火焰喷射器压制基座底层射击孔，9连正面牵制，10连攀周边民居屋顶居高临下扫射上层楼阁，压制日军机动兵力。
火焰喷射器班组抵近基座死角，两道火柱灌入射击孔，烈焰窜入内部引燃木质构件，日军惨叫奔逃，部分冲出基座反扑，被机枪扫倒，残余20余人退守鼓楼顶层，负隅顽抗，投掷汽油瓶引燃下层楼板，浓烟升腾遮蔽视野。
营长下令暂缓强攻，以迫击炮发射燃烧弹覆盖顶层，14时12分，顶层木质结构大面积起火，日军残兵被迫跳楼求生，落地即被外围步兵制服，鼓楼基座随即被爆破班炸开缺口，部队入内肃清，俘日军73人，其余悉数焚毙或击毙。
鼓楼攻克消息传至前线指挥部，吴奇伟电令各部收紧包围圈，对铁路大楼实施三面压缩、一面留西向虚口，布设机枪阵地与反坦克壕，逼残敌突围再行歼灭，减少攻坚伤亡。
14时30分，大楼内部日军粮弹耗尽、通风断绝，吉田经太郎召集残余军官会商，突围不成则集体玉碎，传令兵试图从西侧破墙而出联络残部，被预设机枪射杀，绝望之下，日军残部分两股从缺口与西侧破损窗口冲出，一股扑向7连阵地，遭交叉火力收割，遗尸67具；一股沿铁路路基西窜，遭预先埋伏的633团2连截击，15分钟内溃散，28人被迫缴械，其中含负伤的吉田经太郎，其左大腿中弹，被士兵从地下室抬出时，军服沾满尘土血污，神情颓丧。
14时45分，最后一名藏匿于地下管道的日军工兵被搜出，铁路大楼升起我方旗帜，九江老城全域肃清。各营随即展开街区扫尾：逐户排查地窖、夹墙、阁楼，收缴散落武器弹药，扑灭余火，救助被困平民，封存粮库、车站物资，政工人员沿街宣讲安抚，卫生队扩设临时救护站，收容受伤百姓与日俘，城防要点由各连分兵驻守，江岸码头快速恢复通航，后勤车队沿正街入城补给。
清点战果：此战历时10小时，全歼日军第13师团驻九江主力4800余人，毙俘师团长吉田经太郎以下军官112人，缴获轻重机枪79挺、火炮13门、步枪2100余支、弹药辎重无数；我方阵亡317人、伤642人，营连级军官伤亡19人，631团1连、632团5连、229团9连被前指通报嘉奖，记集体三等功。
武昌长官部内，战报呈上，李振华俯身细看伤亡与态势，指尖划过九江城廓红圈，抬头对张国华下令：令第51集团军主力沿南岸向湖口、彭泽推进，第56集团军肃清北岸宿松外围，江防舰队前出封锁安庆江面，48小时内完成战前整补，续攻安庆；各军做好城市接管预案，严明军纪，严禁劫掠扰民，恢复市政秩序。
夕阳西垂，落霞铺满江面，九江城头青天白日满地红旗迎风舒展，街巷间烟尘渐散，残垣之上，士兵列队换岗，担架缓缓抬过青石板路，少年百姓走出家门，望着入城行军的队伍，眼中噙泪挥手。
长江浪涛东去，载着血火铸就的胜绩，向着安庆、池州、金陵奔流而去，沿江反攻的锋芒，已刺破长江中游的枷锁，直指六朝古都南京，六年蒙尘之耻，正一步步被铁血征程涤荡殆尽。