东汉建安末分沛国置。治谯县(今安徽亳州市)。三国魏黄初元年(220)改为国，旋复为郡。属豫州。辖境相当今安徽、河南二省灵璧、五河、蒙城、鹿邑、永城、萧县间地。西晋为国。辖境缩小，仅有今安徽亳州、涡阳、蒙城及河南永城等市、县地。东晋末移治蒙县(今蒙城县西北)。南朝宋泰始后侨置于淮南。后废。隋大业初及唐天宝、至德间又曾改亳州为谯郡。