日本侵略軍1937年12月13日和27日相繼佔領南京、濟南后,為了迅速實現滅亡中國的侵略計劃,連貫南北戰場,決定以南京、濟南為基地,從南北兩端沿津浦鐵路夾擊徐州。 台兒庄是徐州的門戶,它位於徐州東北30公裡的大運河北岸,臨城至趙墩的鐵路支線上,北連津浦路,南接隴海線,扼守運河的咽喉,是日軍夾擊徐州的首爭之地。
1938年3月24日,日本侵略軍瀨谷支隊向台兒庄發起進攻,與中國守軍第2集團軍第31師展開激戰。
日軍一部突入東北角,被守軍擊退。27日,瀨谷支隊主力一部突入北門,第31師與敵展開拉鋸戰,守軍傷亡甚重。28日,突入台兒庄的日軍被第31師圍攻,敵方損失甚重。29日,李宗仁遂令第2集團軍死守台兒庄陣地,並嚴令湯恩伯部南下,協助第2集團軍解決台兒庄之敵。31日,中國軍隊將進入台兒庄之敵完全包圍。4月3日,中國軍隊向日本侵略軍發起攻擊。日軍拚力爭奪,佔領了市街大部。中國軍隊一次又一次反擊,展開街壘戰,奪回被日軍佔領的市街。雙方陷於苦戰。6日晚,中國軍隊全線攻擊瀨谷支隊。戰至7日凌晨,除一部日軍突圍至峰縣附近固守待援外,被圍之敵全部被殲。
台兒庄戰役是中國軍隊取得的一次重大勝利。在歷時半個月的激戰中,中國軍隊付出了巨大犧牲,參戰部隊4. 6萬人,傷亡失蹤7500人。在中國軍隊的英勇抗擊下,取得了殲滅日軍1萬余人的巨大勝利。此次戰役沉重地打擊了日本侵略者的凶焰,鼓舞了全國軍民堅持抗戰的斗志。