北朝河南洛阳人，字文若。鲜卑族。于谨子。西魏大统十六年(550)，进爵郡公，加大都督，侍丞相宇文泰，领兵宿卫。宇文觉建北周，出为渭州刺史，有政绩。周明帝死，同晋公宇文护受诏辅政。周武帝即位，委以心腹，迁大将军，总中外宿卫兵事。建德二年(573)，出为安、随等六州五防诸军事，安州总管。四年，率荆、楚兵攻北齐，得城十九。五年，转宜阳总管，移镇陕州，出兵取河南九州三十镇。大象初，拜大司徒，受诏巡长城，设立亭障，安边境。杨坚执政，进位上柱国，封任国公。及隋代周，拜太尉。