东魏天平二年(535)分馆陶县西界置，因前燕曾置贵乡郡于此，故名。治赵城(在今河北大名县西北)。属昌乐郡。北周建德七年(578)，以赵城卑湿，移东南三十里孔恩集寺(在今大名县东北)。大象二年(580)为魏州治。隋大业初为武阳郡治。唐治所屡迁，后迁治今大名县东，为魏州治。五代后唐改为广晋县，后汉乾祐初改为大名县。