唐武德二年 (619) 置，属晋州。治所在今山西浮山县西南十里古县村。《元和志》 卷12神山县： 浮山县 “因山为名”。武德四年 (621) 改为神山县。金大定七年 (1167) 复改浮山县，属平阳府，治所即今浮山县。兴定四年 (1220) 改忠孝县。元复改浮山县，属平阳路。大德九年 (1305) 改属晋宁路。明属平阳府。民国初属山西河东道。1928年直属山西省。

在山西省南部、太岳山南麓。属临汾市。面积938平方千米。人口 12.6 万。辖2镇、7乡。县人民政府驻天坛镇。唐武德二年(619年)析襄陵县于郭城置浮山县，县以山名;《读史方舆纪要》：“浮山在县西六十里。相传洪水时，此山随水消长，县因以名。”三年改名为神山县，属晋州。宋初属晋州，政和六年(1116年)属平阳府。金大定七年(1167年)改神山县为浮山县，兴定四年(1220年)改名为忠孝县。元仍名浮山县，属平阳路，大德九年(1305年)属晋宁路，明属平阳府。清因之。1914年属河东道，1927年直属山西省，1937年属太岳区。1942年设置青城、浮山二县。1945年二县合并，复为浮山县。1949年属临汾专区。1958年与临汾、襄汾二县并称为临汾县。1960年与临汾、襄汾二县分治，恢复浮山县，属晋南专区。1970年属临汾地区。2000年属临汾市。地处临汾盆地东部，洰河、涝河、虼蚂河、红沙河、东河流经境内。属南温带半湿润气候。农产以小麦、玉米、谷子、高粱、豆类、油料作物为主。矿产有煤、铁、金、铜、云母、石英、石灰石、重晶石等。工业有煤炭、冶金、铸造、机械、建材、五金等。浮山剪纸闻名，有“剪纸之乡”称誉。临浮、浮沁、浮翼、浮古公路经此。名胜古迹有老君洞、贯里碑群。