隋河东汾阴(今山西万荣西南)人，字绍玄。少时读书，勤于思考，对经注颇晓其义。仕北周，袭爵文城郡公，为上仪同，后加开府。入隋，授兖州刺史，旬日剖断狱案数百，发奸摘伏，甚为明察。又整治兖州城东沂、泗二水，积石筑堰，通转漕运，陂泽尽为良田，百姓号“薛公丰兖渠”。入为大理卿，执法宽平，颇为称职。迁刑部尚书。因平议高颎之狱而忤旨，检校相州事。仁寿四年(604)，汉王杨谅起兵，他自保相州。朝廷以为有贰心，发配岭南，病卒于道。