唐高祖(李渊)族弟。隋大业十三年(617)于鄠县(今陕西户县)南山举兵，响应李渊，与平阳公主合兵，下鄠县，众至万余，自称关中道行军总管。从平京师，为宗正卿。唐武德元年(618)拜右翊卫大将军，封淮安王，为山东道安抚大使。追击宇文化及于聊城，坐失战机，兵多逃散，退至黎阳依李勣，为窦建德所俘。建德败，归唐。从李世民击刘黑闼，迁左武卫大将军。太宗即位，论功行赏，自以最先起兵，不服房玄龄、杜如晦等功居其上，太宗指其战败之迹，晓之以理，闻者悦服。