12月4日，明军先锋避开徐州方向的清军重兵，向北迂回。第四装甲师履带搅着泥水，沿着韩庄运河北岸，一路横扫过了防守相对薄弱的峄县、台儿庄，坦克履带隆隆开过津浦铁路的钢轨，推进到了微山湖东岸，兵锋逼近山东的枣庄市。至此，已完成第一步计划，将徐州从东部和山东隔了开来，并且掐断了津浦铁路。
韩庄运河是把北边的微山湖和南边的骆马湖连起来的一条运河，一百多米宽，从台儿庄南侧、贴着庄子流过去。运河在台儿庄这里拐了一个大弯。在台儿庄以西，是东西走向，流过台儿庄，就折成了西北-东南走向。
现在的情况是，韩庄运河以南、以西，是清军重兵布防地带，清军已经基本放弃了运河以东、以北。现在在运河西边和南边，把百米宽的运河当作一个险要来防守。
微山湖和骆马湖之间的韩庄运河上，沿河大埠有两座。一座是南边的邳县，一坐就是北边的台儿庄。现在邳县已经拿下来了，台儿庄因为距离津浦铁路、距离贾汪镇、距离徐州都很近，另一个更重要的原因，是台儿庄这里有一座大公路桥。所以清军防守还是很强的，现在明军仍然没有打下来。
在4日一天，明军已经攻入了台儿庄，但是清军中原兵团下了死命令，死守台儿庄。因为台儿庄一丢，明军就可以从这里过韩庄运河。坦克也好、重炮也好，都可以轰隆轰隆直接开过桥，进攻徐州。
台儿庄虽然叫“庄”，但是非常大。光建筑密集区就有几平方公里，十几万人口，俨然一座小城市。清军中原兵团集中了一个满八旗师、两个蒙八旗师在这里防守。这些都是最精锐的满八旗师，两个蒙族师轮流在庄内跟明军巷战，一个满族师就在运河南岸督战，架了机枪火炮，有敢往南跑的，一律扫死。
这次清军没有再“裹挟平民”，事先允许庄内百姓提前撤出。只不过不允许往北、也就是往明军那边跑，只允许撤到运河以南的清军控制区。而且事先说明：撤不撤全凭自愿，一概不强迫。并且告诉百姓，就算不撤问题也不大，因为明军一贯是不轰击居民区的。打仗的时候只要躲在家里、别出门，一般不会有事。
这也是清军守将有意为之。因为这样，很多平民就会“自愿”留在庄内。道理很简单：既然去留自愿，那还不如冒险留下。撤走的话，还是撤到清军控制区，台儿庄不管谁胜谁败，自己都只能继续当大清老百姓。明军都打到家门口了，这节骨眼上再撤往后方，太亏了。冒险留在庄内的话，说不定明天，自己就是大明百姓了。
清军守将这一手很高明，既能在庄内有大量的平民当肉盾，又不违反明军的“拯救平民令”，下面军官没有被枪毙之虞，可以安心打仗：
——看看，我可没裹挟平民啊，我允许他们撤出来着，使他们自己不愿意撤，要留在这里等你们明军，我有什么办法？
庄内有大量平民，明军就不会往庄内使用重型武器。这样，清军就可以安全地在庄内保持高密度兵力，而不会被一顿重炮轰成渣。庄内兵力密度高了，明军想攻占，那就非苦战不可了。
而清军守军据有运河，进可攻——进入庄内巷战，退可守——撤到南岸守运河，两个师还能轮流后撤休整。后路在自己手里，没有被合围之忧，打得不行了就能撤出去——这也是清军干预顽强抵抗的重要原因。
……
开始明军没想到一个小小的台儿庄会打起来。失去了空中侦察，明军也不知道运河对岸清军是怎么布防的，也不知道台儿庄李有多少清军。只是在庄内遭遇激战、接连损失三个连之后，才认真对待起来的。
这时候，明军已经准备把南边的徐州围住慢慢啃了。为了不受北边的清军“打扰”，人民卫队第四装甲师已经调到北边鲁南地区，防备枣庄、临沂方向的清军了。现在后边的陆军步兵师已经跟上来。
打这种巷战，不能再用宝贵的装甲师了。现在负责主攻台儿庄的，是陆军第30摩托化步兵师（隶属12军）一团。
晚上，战火暂时沉寂。双方经过一夜的休整，到了5日黎明，战斗即将重新拉开。
……
5日早晨7：20，明军30师一团重新开始进攻。但是清军在运河南岸几公里处增强了重炮阵地，对明军集结地进行猛轰。明军没有空中侦察，不好判断清军的炮兵阵地具体位置，而且隔着运河，地面侦察过不去，只能大概的还击。
而明军要进攻庄内，就必须在庄外几个地方集结。而庄外的坐标都是固定不变的，战斗前清军就测量好了的。现在清军炮火极其准确凶猛，明军损失惨重。
清军在庄内的十几个高处都架起了大喇叭，不断播放着对海州投降清兵家人的处理消息。一会儿是多少师多少团全团投降官兵家人户主处死、其余家人被送进劳动营；一会儿又是哪个高级军官投降明军，全家被送进劳动营……
每隔一会儿，还会播放另一种信息，即某师某团官兵作战勇猛，死战不退，全团都得到了多少大洋的犒赏，每人衔升一级；或者就是某师某团经查明阵亡将士多少人，这些官兵的家人都得到了多少抚恤金、分得了多少土地、减免了多少年的赋税……等等。
这么正反两种信息，胡萝卜加大棒，加上眼下退路在自己手里、没有被合围之忧，庄内八旗师是越战越勇，大有“保家卫国”的感觉了。
清军这样拼死抵抗，倒把明军的脾气也打上来了，明军这些摩步师也都是陆军的精锐，随便拉出一个师来都不输于八旗师的。现在陆军12军军长侯鹤坤也把注意力放在这个小庄子上了。侯鹤坤在南京保卫战的时候可就是陆军的名将，是善打硬仗着称的。
现在，他即刻命令30师增兵，将另两个步兵团投入台儿庄战场。三个团同时向庄里进攻。然后，他又把32师从东边增调过来，准备随时接下休整的30师。他准备把兵力增加到和清军守军相当。两个师轮番接力进攻。反正不能对庄内用重炮，那就大家都往里面堆人就是。巷战，基本都是轻武器。那就是谁的兵力密度高，谁的火力就更强，进攻锋面就更有力。
明军每个摩步师都有一个坦克营，32辆闪电-3坦克。现在这32辆坦克都被投入近台儿庄了。但是清军似乎也在台儿庄里部署了大量坦克。而且清军的坦克都是巴鲁图、库布坦克，标准的步兵坦克。火力强、装甲厚，虽然行动迟缓，但是在巷战里掩护步兵却很好用。
清军的坦克组把坦克藏进建筑物里，专等着明军坦克开近的时候打埋伏，先是一炮击毁领头的闪电3坦克，然后两边的机枪猛射，重型坦克轰然发动，从藏身处钻出来，向明军步兵冲去，后面跟着一大群哇哇叫的清兵。好多次，明军已经攻下的街道，都是这样被清军夺回去的。
上午九点，明军占领了台儿庄的北边四分之一。
上午十点半，清军反攻，明军已经占到手的又几乎丢掉了一半。
中午十二点，明军加劲强攻，战线又恢复了九点钟的样子。
不过说是“战线”，其实也没什么明显的战线，双方控制区犬牙交错，互相渗透，而且还在对方控制区内，形成一个个的“孤岛”。这些“孤岛”有的就被合围、歼灭了。有的随着一条街道、一栋建筑的攻破，又何己方控制区连在一起了。
下午，明军第30师伤亡已经过1500。清军伤亡不详，但是明军师长判断，至少是两倍于己。不过同为一个师的兵力，明军机械化程度更高，兵种更复杂，各兵种分工更细，技术岗位较多。反过来清军机械化程度低，技术兵种不多，兵种之间分工配合程度也不高。因此排除士气因素，明军这种军队结构，实际上更“娇贵”，更难以忍受高伤亡。双方同样士气的情况下，三四成伤亡对清军来说可能还没什么感觉，对明军来说，战斗力就会大幅下降了。