春秋晋地。战国时赵、韩各置上党郡。赵上党郡在今山西和顺、榆社等县以南，南与韩的上党郡相接;韩上党郡有今山西沁河以东一带。秦取赵、韩二郡合置上党郡，治壶关县(今长治市北)。西汉移治长子县(今长子县西南)。西汉辖境相当今山西和顺、榆社等县以南，沁河流域以东地区。东汉末移治壶关县。其后辖境渐缩，治所屡迁，西晋移治潞县(今潞城市东北四十里古城村)。十六国前燕慕容儁移治安民城(在今襄垣县北)。后治壶关县。北魏皇始元年(396)又移治安民城，太平真君中复治壶关县。隋开皇初废。大业初又改潞州复置，移治上党县(今长治市)。唐武德元年(618)复改为潞州。天宝、至德时又曾改潞州为上党郡。