汉高祖六年（前201年），黟县属荆国，后改属吴国、江都国、广陵国。汉武帝元狩二年（前121年）置丹阳郡，隶属扬州，黝县属丹阳郡。成帝鸿嘉二年（前19年），黝县建广德王国，立中山宪王弟孙云客为广德王，鸿嘉三年逝世，无子继承，国遂废。平帝元始二年（2年）四月，复以广德故国（黝县）立广川惠王曾孙伦为王，传子赤。
王莽篡位，贬赤为公，始建国二年（公元10年）废，改黟为愬卤。
东汉建安十三年（208年）将原歙县划分为歙、休阳、新定、黎阳四县，加上黟县、始新共六县从丹阳郡分出，置新都郡，从此改黝字为黟。
晋灭吴，新都郡更名新安郡。黟县属新安郡。
隋朝改郡为州，开皇九年（589年）黟县并入海宁，属婺州。十一年复置黟县，属宣州。十二年置歙州，州治设在黟县，领黟、歙、海宁三县。大业三年（607），改州为郡，更歙州为新安郡。十二年，歙人汪华据黟，称吴王，增置黟州于黟县。
唐武德四年（621年），改新安郡为歙州，黟县属歙州。天宝元年（742年）改歙州为新安郡，乾元元年（758年）复改新安郡为歙州，黟仍属歙州。永泰二年（766年）划黟县的赤山镇及其六乡和饶州的浮梁地置祁门县，次年，又划黟县、秋浦、浮梁一部分置石埭县。
宋宣和三年（1121年），改歙州为徽州，黟县属徽州。
南宋景炎二年（1277年），改州为路，黟属徽州路。
元至正十七年（1357年）改徽州路为兴安府，二十四年改为徽州府，黟县属徽州府。直至清朝，沿袭不变。
中华民国元年（1912年）元月，废府留县，黟县直属安徽省。
民国3年6月，划归安徽省芜湖道。
民国17年8月废道，直隶安徽省。
民国21年，划属安徽省第十行政督察区。
民国27年4月，属皖南行署第十行政督察区。
民国29年3月，直隶国民政府皖南行署，8月，划属安徽省第七行政督察区。
1949年4月29日，黟县解放。5月13日，黟县划属皖南行署徽州专区。
1950年，将石台县的柯村乡、美溪乡，太平县的宏潭乡划入黟县，1952年4月12日，属安徽省徽州专区。
1956年1月12日，撤销徽州专区，属安徽省芜湖专区。
1959年4月18日，中华人民共和国国务院决定：黟县并入祁门县。
1961年4月5日，国务院批准，复置黟县，属安徽省徽州专区。
1971年3月29日，属安徽省徽州地区。
现为黄山市（原徽州地区）所辖。