不仅如此，寺内寿一还积极和华中派遣军联系，继续执行南北两路夹攻的战略，企图占领徐州。
当时由于南京大屠杀，迫于国际舆论压力，华中派遣军司令官松井石根被撤职，奉调回国。而华中派遣军司令官一职由，刚刚晋升陆军大将不久的畑俊六接任。
畑俊六和寺内寿一商议之后，两个老鬼子也是一拍即合，随后畑俊六调集了华中派遣军第3师团，第6师团，第9师团，第13师团，第101师团等部，总计近二十万大军，准备向北进攻，协助华北派遣军攻占徐州。
然而想要发动如此大规模的作战，也需要一段时间的准备，华中派遣军虽然之前已经成功占领了南京及附近的大片区域，但是始终未能歼灭中**队主力，江浙皖地区仍然留有许多中**队，而华中日军在短时间内也无法将其彻底肃清，使得华中日军主力被拖延住，始终无法全力进攻徐州。
畑俊六综合各方面的情况之后，最终决定于五月中旬发动进攻。然而急于雪耻的寺内寿一已经等不及了，再次抢先出手了。
4月17日，寺内寿一下达了进攻徐州的作战命令。日军第16师团及第114师团随即离开济宁南下进攻藤县，于此同时独立混成第五旅团负责牵制临沂之第五十九军等部，板垣征四郎亲自率领得到补充的第五师团主力及独立混成第三旅团，绕过临沂向枣庄，峄县方向进攻。
此次日军来势汹汹，第五战区司令长官李宗仁将军，严令各部队不惜一切代价阻挡日军的攻势。当时中国统帅部已经制定了在徐州与日军决战的计划，几十万大军正在向徐州地区集结。
然而没等中**队集结完成，华北日军便抢先发动了进攻，而且这次日军聚集了十万大军，攻势猛烈。各地守军虽然拼死抵抗，但是最终没等挡住小鬼子的进攻，战斗进行到了四月底，藤县，枣庄，峄县等地相继失守，日军再次逼近台儿庄，徐州的安全也受到了严重的威胁。
在此期间，秦锋率领独立支队先后两次伏击了日军第五师团的辎重部队，歼敌上千人，缴获了大量的武器装备和物资，但是仍然未能阻止住日军的攻势。
鉴于台儿庄局势危急，李宗仁将军被迫下令张自忠和庞炳勋所部，放弃临沂支援台儿庄战场，日军独立第五混成旅团随即攻占了临沂，随即南下与第五师团等部会和，继续进攻台儿庄方向。
由于此时支援徐州的几十万大军相继赶到了徐州，并投入到了一线作战，日军再次被挡在了台儿庄一线，小鬼子猛攻