唐郑州荥阳(今属河南)人。贫苦农家出身。隋末参加瓦岗军，隶徐世勣部。随世勣投唐，任郑州刺史。房玄龄等荐于秦王李世民，遣往经营洛阳，统千余人以应变。为齐王李元吉告发下狱，寻得释。贞观中，历任御史大夫，豳、夏、鄜三州都督，相州长史。抑豪强，恤贫弱，颇有政声。封郧国公，名列凌烟阁。贞观十七年(643)，由太子詹事出为洛州都督，密告侯君集约同反叛，以功授刑部尚书，参预朝政。十九年，率舟师从太宗攻高丽。后被告交通术士，养假子五百，以谋反罪诛。