抗日战争全面爆发后,任中共中央代表,主持八路军新疆办事处工作。1938年1月,任中共中央军委参谋长,参与组织领导敌后游击战争。后奉命去晋西北地区统一指挥反击国民党顽固派军队的进攻,巩固和发展了晋西北抗日根据地。1940年5月调任抗日军政大学副校长兼副政治委员,培训了大批军政干部。1942年8月起,任八路军前方总指挥部参谋长,参与指挥部队反击日军“扫荡”和“蚕食”。1944年与副参谋长杨立三提出开展增产节约的“滕杨方案”,在机关部队推行,为战胜严重困难,夺取抗日战争的最后胜利发挥了重要作用。
抗日战争胜利后,任晋冀鲁豫军区副司令员,参与指挥上党、邯郸战役。1945年12月,参加北平军事调处执行部工作。后被派往重庆、南京,协助周恩来与国民党代表进行谈判。1947年刘邓大军挺进大别山后,参与指挥晋冀鲁豫军区部队在内线进行反攻作战,领导人民武装建设,并指导军工生产。1948年5月任华北军区副司令员。11月任中央军委铁道部部长,后兼任铁道兵团司令员、政治委员,领导军民恢复铁路交通,为保障解放战争的顺利进行、为铁道兵的创建和人民铁道事业的发展作出了卓著贡献。
中华人民共和国成立后,任中央人民政府铁道部部长。是第四届全国政协副主席。1974年12月1日在北京病逝。(新华社北京12月22日电)