秦末泗水沛县(今属江苏)人。曾为滕令奉车，故号滕公。初为沛厩司御，与刘邦相厚爱。后随刘邦起兵反秦，屡建战功，赐爵昭平侯。楚汉战争中，刘邦败于彭城(今江苏徐州)，惠帝与鲁元公主几为楚军所获，赖其得以保全。刘邦称帝后，得封汝阴侯。协助诛除臧荼、韩信、陈豨、英布等异姓王侯。高祖死，复以太仆事惠帝、高后及文帝。