秦庄襄王三年(前247)置。治晋阳县(今山西太原市西南古城营)。辖境相当今山西内长城以南，离石、灵石、昔阳等县以北地区。西汉以后辖境逐渐缩小。文帝前二年(前178)改为太原国，元鼎三年(前114)复为郡，三国魏黄初元年(220)又改为太原国，北魏复为太原郡，辖境相当今山西太原市至介休市间的汾水中游地。东汉至北周皆为并州治。隋开皇初废。大业三年(607)又改并州为太原郡。治太原、晋阳二县(今太原市西南古城营)。唐武德元年(618)复为并州。