蒋介石在获悉临沂战况后，致电李宗仁和庞炳勋、张自忠：临沂捷报频传，殊堪嘉慰。仍希督励所部确切协同包围敌人于战场附近而歼灭之。如敌脱逸须跟踪猛追，开作战以来之歼敌新纪录，振国军之气势，有厚望焉。18日，张、庞两军从东、南、西三面夹击汤头、王疃、傅家池、草坡附近日军，经过两天激战，先后攻克李家五湖、辇沂庄、车庄、前湖崖，日军完全被击溃，残敌大部向莒县逃窜，一部仍固守汤头待援。此阶段战斗，张、庞两军共歼灭日军3000余人，其中包括第11联队长联队长野裕一郎大佐，第3大队大队长牟田中佐。(《李宗仁致军委会电》(1938年3月19日)，国民政府军令部战史会档案，中国第二历史档案馆藏。)日军“以载重汽车运回莒县尸体约100余车，……屡次焚化尸体，其不及运回，就地掩埋者达七八百具”。
正当张、庞两军要围歼汤头日军之时，第5战区忽令“第59军(除留第112旅外)即调费县，准备向泗水、滕县转用”。(《国民革命战史第三部：抗日御侮》第5卷，第138页。)20日夜，第59军主力全部西撤，22日凌晨抵达费县附近。而在此同时，日军增援部队3000余人，会同汤头之残敌千余人，复向第40军反攻，猛烈的炮火昼夜不停，庞军孤军奋战不支，亭子头、东庄屯阵地均被突破，乃退至桃园、石埠岭、黄山一线阵地死守。时庞军兵力仅存2000余人，临沂再度告急。
23日，蒋介石命令第59军“不必向泗水、滕县分转兵力，仍应协力第40军迅速歼灭临沂北方之敌，以竞全功，而利大局为要”。24日晨，第59军抵达临沂附近，并在韦家屯、桃园一带与日军激战。25日，为解庞军团之围，第38师以3个团夜袭桃园、三官庙，次日晨攻占桃园，并将三官庙之敌包围。26日，日军一部4000余人由船流对岸渡过沂河西进;另一部约1个联队也到达临沂西北约15公里的义堂集一线，准备进攻临沂城。
张自忠急派主力于城西北之王家岔河、八里屯、小岭、古城一线布防拒敌。庞军团固守沂河东岸的九曲店、石埠岭、黄山之线。其时庞军仅剩千余人，已丧失战斗力;“张军实力虽剩半数，而士气较前甚差，非有生力援军，临沂难守”。于是，李宗仁急派缪溦流第57军王肇治旅、汤恩伯部1个骑兵团赴临沂增援。
从27日晨开始至29日晚，日军向临沂大举进攻，尽管日军以飞机往复轰炸，大炮猛烈射击，并占领了临沂周围许多村落，但第59军在伤亡2000余人的情况下，前仆后继，奋勇抗敌，使日军横尸遍野，始终未能越过临沂半步。
日方资料对这次攻击作战是这样叙述的：坂本支队从3月22日进攻，并击败沂州东北面及东面之敌。25日早，以主力开始攻击沂河东面的沂河东岸敌阵地……步兵第21联队的主力……于25日夜开始转进，26日正午占领义堂集，负责警戒。
接着，坂本支队长将主力转移到沂州西北方，从27日开始攻击沂州，逐次攻占了沂州周围敌占领的村庄，但由于敌之顽强抵抗，直到29日也未能占领沂州县城。这时，由于日军在台儿庄方面战况吃紧，第2军“命令第5师团救援濑谷支队。于是，第5师团命令坂本支队，暂时中止攻击沂州，去救援濑谷支队”。29日夜，日军退守义堂集、艾山一线，仅留下步兵约2个大队同中国军队对峙，等待援军，坂本率4个步兵大队、2个野炮兵大队驰援台儿庄。31日，板垣率援军抵达汤头，指挥作战。
临沂保卫战的胜利，使日军第5师团主力始终不能与津浦路北段的第10师团按预定计划会合于台儿庄，斩断了华北日军的左臂，从而使冒险突进到台儿庄的濑谷旅团处于孤立无援的境地，为台儿庄战役的胜利奠定了基础。
令人遗憾的是，中国方面对坂本支队主力增援台儿庄的行动毫无察觉，第5战区于此时从台儿庄抽调出黄光华第139师火速增援临沂，张自忠军也于30日集中兵力向临沂西北反攻，致使坂本支队顺利到达台儿庄地区，并向汤恩伯第20军团侧背攻击，打乱了该军团围歼濑谷支队的作战计划。蒋介石为此电斥张自忠：“临沂之敌得自由转用于向城、兰陵镇方面，实该军之耻，应连派有力部队向向城之敌猛烈追击。免致台、峄之敌已届聚歼之时再行逸脱。事关抗战前途甚巨，务希努力为要。”
然而，张自忠“两次保全临沂，牺牲颇大。敌惫之余，未能扼敌迂回西进，诚为美中不足”。况且，对伤亡过半的第59军和几乎全军覆灭的第40军来说，板垣师团的后续部队仍然构成重大威胁，当然不可能阻止坂本旅团主力的西进。而第5战区长官部战术指挥紊乱，对日军动向掌握不清，以致调度失当，盲目用兵，则是造成战术失误的主要原因。
