1939年5月初，日军从济南、泰安、汶上等地调集5000余人和伪军一部，分九路“扫荡”泰西。此时一一五师师部、六八六团及鲁西区党委、泰西地委等共300余人，被包围于约10平方公里的地域内。危急时刻，张瑞向师部首长建议：入夜后，在日军收缩兵力，包围监视，准备次日进攻的间隙，沿着西南方向火光密集、日军已“扫荡”过的地方突围。师首长依计，12日晨，我部跳出敌人包围圈，化险为夷。
1943年8月，张瑞进入延安中央党校学习。结业后，任中央军委总参谋部第三业务处副处长。1945年3月，张瑞奉调山东军区。
抗战胜利后，张瑞奔赴东北。当时，东北人民自治军总司令部的通信联络很混乱，电台密码不同，经常联络不上。林彪急得自言自语，只好在地图上用小图钉钉了好多小纸片，标明部队的番号和到达时间。张瑞到达总司令部时，整个司令部只有一部电台，电报积压很多，林彪严肃地对张瑞说：“现在部队之间的联络成问题，电报不能及时发出去、收进来，这样怎么指挥作战？你要赶快想办法解决！”张瑞很快就和所有进入东北的部队取得了联络。