张鲁于1917年12月8日生于河南省洛阳市李村镇。1938年6月奔赴延安参加革命，并在延安抗日军政大学学习。后转入鲁迅艺术学院实验剧团，开始音乐创作生涯。1939年3月加入中国共产党。
1943年毕业于延安鲁艺音乐系。曾任晋西北文联音乐部副部长、华北联合大学教员。新中国成立后，任中央音乐学院音乐工作团副团长。1958年毕业于中央音乐学院干部进修班。后任中央歌舞团团长，黑龙江省歌舞团副团长，黑龙江省文联副主席，中国音协第三届常务理事、第四届理事。
张鲁一生从事音乐创作。60多年来，他先后创作了1700多首歌曲及18部歌剧、歌舞剧、电影歌曲。尤其是他与瞿维、马可合作的歌剧《白毛女》在中国民族歌剧发展史上具有划时代的意义。该剧1949年荣获斯大林文学奖，并在几十个国家上演。
离休后，张鲁仍然热爱和关注着音乐事业，他不顾年迈体弱，满腔热情地辅导群众进行音乐的普及工作。
2002年5月，张鲁在第二届中国音乐“金钟奖”评选中获中国音乐“金钟奖”荣誉奖，并被授予终身荣誉勋章。
晚年逝世
2003年9月18日17时55分在石家庄逝世，享年86岁。当时他正在病床上修改他的《张鲁评述》。