北周宣政元年(578)改西兖州置，取曹国为名。治左城(隋改济阴县，今曹县西北)。隋大业初，改名济阴郡。唐武德四年(621)复改曹州。辖境相当今山东菏泽、东明、定陶、成武、曹县及河南民权等市、县地。天宝元年(742)改为济阴郡，乾元元年(758)又为曹州。北宋崇宁元年(1102)升为兴仁府。金又改为曹州。大定八年(1168)，黄河决口，移治古乘氏县(仍名济阴县，今山东菏泽市)。明洪武元年(1368)，移治安陵城(今曹县西北)，二年移治磐石镇(今曹县)。四年降为曹县。正统十年(1445)又在乘氏城复置。属兖州府。清雍正十三年(1735)升为曹州府。唐末在此爆发黄巢起义;清初在此爆发榆园军起义。