国民党军队虽以5倍的兵力围攻，并付出极大的伤亡代价，但竟难以将敌人消灭，战争一时呈胶着状态。

4月3日，李宗仁下达总攻击令。第52军、第85军、第75军在台儿庄附近向敌展开猛烈攻势。日军拼力争夺，占领大部分街市。

国军展开街垒战，逐次反击，肃清敌人，夺回被日军占领的街市。

4日，中国空军以27架飞机对台儿庄东北、西北日军阵地进行轰炸。当晚，日军濑谷支队力战不支，炸掉不易搬动的物资，向峄县溃逃。

4月6日，李宗仁赶到台儿庄附近，亲自指挥部队进行全线反击，4月7日凌晨1时，国军吹响了反攻的号角，以孙连仲第2集团军为主，组成的左翼兵团。

以汤恩伯、封裔忠第20军团为主，组成的右翼兵团在台儿庄及其附近地区大举反攻。

一直防守遭攻的孙连仲部，听说反击，神情振奋，命令一下，杀声震天。双方便展开了巷战、肉搏战，一时间，台儿庄城内枪林弹雨，血流成河。

日军头一次遭到了国民党军队的如此顽强进攻，很快便溃不成军。台儿庄北面，枪炮声渐密，汤恩伯军团向敌人开火。

矶谷知已陷入反包围圈，开始动摇，下令部队全线撤退。

此时敌军已成强弩之末，弹药汽油也用完，机动车多被击毁，全军丧魂落魄，狼狈逃窜。

李宗仁命令部队猛追，敌兵遗尸遍野，各种辎重到处皆是，矶谷本人率残部拼命突围。

激战4天，国军重创日军濑谷支队、坂本支队，其余日军残部于7日向峄城、枣庄撤退。至此台儿庄战役胜利了。

台儿庄会战，在李宗仁的亲自指挥下，击溃日军第5、第10两个精锐师团的主力，歼灭日军2万余人，缴获大批武器、弹药。

最终严重地挫伤了日军的气焰，是国民党在正面战场抗战初期取得的一次大胜利。

台儿庄战役取得的重大胜利，不仅在军事上具有重要意义，更在心理上极大地提振了全国军民的抗战士气。