东汉扶风茂陵(今陕西兴平东北)人，字伯初。耿国子。通《司马兵法》，尤好将帅之略。以父任为郎，数上言兵事。常以边陲不宁，其患专在匈奴，力主以战去战。明帝时，召问便宜方略，拜谒者仆射，遂见宠幸。永平十五年(72)，拜驸马都尉，次年，与奉车都尉窦固等伐北匈奴。十七年，击定车师。章帝时，历任征西将军、度辽将军、执金吾。帝每出巡，常领禁兵宿卫左右。章和二年(88)，复以征西将军与车骑将军窦宪击破北匈奴，登燕然山(今蒙古国杭爱山)，刻石勒功。封美阳侯。善治军，常身先士卒，休止不结营部，然注重警戒侦察，士卒皆乐为用。永元二年(90)，任光禄勋，次年卒，年五十余。