西汉元狩元年(前122)置。治陈留县(今河南开封县东南陈留城)。属兖州。辖境相当今河南民权、宁陵等县以西，开封、尉氏等市、县以东，延津、长垣等县以南和杞县、睢县以北地。东汉以后略有伸缩。三国魏改为国。西晋移治小黄县(今河南开封县东)，后又移治仓垣城(今开封市东北)。东晋末复为郡。北魏太和十八年(494)废。孝昌中复置，移治浚仪县(今开封市)。东魏为梁州治，北周后为汴州治。仅辖今开封、封丘等市、县地。隋开皇初郡废。唐天宝、至德时又曾改汴州为陈留郡。