在此之前，新四军第三师曾发生一起十分壮烈的反“扫荡”战斗，即大胡庄战斗。1941年4月26日、从涟水县城出发的200多名日军和500多名伪军，突然包围淮安县大胡庄。驻大胡庄的新四军第三师第八旅第二十四团第二连迅速展开，并连续打退敌三次冲锋。敌人施放毒气，并放火烧屋，第二连指战员在烈焰中反复冲杀，共毙敌100余人，但因众寡悬殊，82人壮烈牺牲，只有1名重伤员幸存。