张祖谅，河南商城县白塔集乡人。1931年加入中国共产主义青年团，同年参加中国工农红军。1932年转入中国共产党。土地革命时期，任红二十五军第七十三师特务连班长、排长，红三十一军第九十三师政治部干事，第二七九团连政治指导员，军政治部保卫科科长。参加了长征。抗日战争时期，任八路军一二九师三八六旅七七二团政治处组织股副股长，旅政治部锄*科科长，七七二团代政治委员，旅政治部主任，太岳军区第二军分区政治部主任，第三军分区副政治委员。解放战争时期，任晋冀鲁豫军区第十九军分区司令员，晋冀鲁豫野战军第八纵队参谋长，华北军区第八纵队副司令员兼参谋长，第十八兵团六十军副军长兼参谋长、军长。中华人民共和国成立后，任第十八兵团军长兼成都警备司令部司令员，川西军区副司令员、司令员，中国人民志愿军第三兵团军长，南京军区参谋长。1955年被授予中将军衔。