唐灵州(治今宁夏灵武西南)人。祖籍康国(今乌兹别克斯坦撒马尔罕)。少事淄青节度使李惟岳，擢赵州刺史。建中时，惟岳叛，他与别驾李濯及部将百人以州归唐，擢深赵观察使。兴元元年(784)以军功擢奉诚军节度使，徙晋绛节度使，累加检校尚书左仆射，封会稽郡王。