东汉末常山真定(今河北正定南)人，本姓褚。灵帝中平元年(184)聚众响应黄巾起义，转战山泽间，众至万余人，旋并归博陵张牛角所率起义军。张牛角牺牲后，被义军推举为帅，遂改姓张。与常山、赵郡、中山、上党、河内等地起义军联合，众至百万，号“黑山军”。后向东汉王朝乞降，任平难中郎将。又参与官军混战，其旧部逐渐离散，遂归降曹操，拜平北将军，封安国亭侯。