隋河南洛阳人，初名善，字休因。略涉书史，尤晓钟律，有辩才。北周时任大都督。武帝即位，超拜车骑大将军。因常受命先览奏章，遂赐现名。及武帝诛宇文护，以功封薛国公。武帝卒，受遗命辅佐宣帝，进位上柱国、大司徒。在朝颇受信任，女嫁蜀王杨秀为妃。杨坚(隋文帝)为相，转宜州刺史。入隋，为东南道行军元帅，统八总管出寿阳，水陆并进攻陈。开皇二年(582)，会陈宣帝卒而还军。后为泾州刺史，有政绩，卒官。