4月4日深夜，第二集团军司令孙连仲向战区司令长官报告说：“第二集团军已伤亡十分之七，敌人火力太强，攻势过猛，但是我们把敌人也消耗得差不多了。可否请长官答应暂时撤退到运河南岸，好让第二集团军留点种子，也是长官的大恩大德！”
李宗仁接此电报后考虑了许久。他预计汤恩伯军团明日中午可进至台儿庄北部。第二集团军如于此时放弃台儿庄，岂不功亏一篑。因此，他对孙连仲说：“敌我在台儿庄已血战一周，胜负之数决定于最后五分钟。援军明日中午可到，我本人也将于明晨来台儿庄督战。你务必守至明天拂晓。这是我的命令，如违背命令，当军法从事！”在电话中，李宗仁还要孙连仲不但要守到明天拂晓之后，而且今夜还要向敌组织夜袭，以打破敌军明晨拂晓攻击的计划。李宗仁说：“坚持就是胜利，待明天援军到后，我们就可对敌人实行内外夹击！”
当时，孙连仲的预备队已全部用完，部队伤亡过大，组织夜袭是十分困难的。但经过动员，轻伤员自动组织起来，主动要求承担向敌人展开进攻的任务。为了表示向敌人反击的决心，孙连仲对第三十一师池峰城师长命令说：“士兵打完了你就自己上前填进去。你填过了，我就来填进去。有谁敢退过运河者，杀无赦！”