夏、商朝：属扬州。

　　周朝：先属吴，后属越。

　　战国：属楚。

　　秦国：属会稽郡。

　　汉：先属丹阳郡，后属新都郡。

　　晋：称新安郡。

　　南北朝：梁大同元年（535），置良安县，属新安郡。

　　唐：永泰元年（765），置绩溪县，属江南西道歙州。

　　北宋：开宝八年（975），属江南西路歙州，至道三年（997），属江南路歙州。天禧二年（1018），属江南东路歙州。宣和三年（1121），改歙州为徽州，以绩溪徽岭、徽溪而名。

　　元：十四年（1277），属江淮行省徽州路。二十一年，属江浙行省徽州路。至正十七年（1357）即宋（韩林儿）龙凤三年，属朱元璋江南行省徽州路，旋改徽州路为兴安府。吴（朱元璋）元年（1367），改兴安府为徽州府。

　　明：洪武元年（1368），属中书省徽州府。十三年正月，属六部直隶徽州府。永乐元年（1403），属南京直隶徽州府。

　　清：顺治二年（1645）九月，属江南省徽州府。康熙六年（1667），属安徽省徽州府。咸丰四年（1854），随徽州府由浙江巡抚兼管。同治四年（1865），复归安徽省。

　　民国：元年（1912），裁府，直属安徽省。3年设道，属安徽省芜湖道。17年，废道，直属安徽省。20年初，设首席县长制，归宣城县长节制。同年10月，属安徽省第十行政督察区（治所休宁）。27年4月，属皖南行署第十行政督察区。29年3月23日，直属皖南行署，同年8月，改属安徽省第七行政督察区。

　　中华人民共和国：1949年4月30日，绩溪县解放。5月13日，成立徽州专区，属皖南区。1952年4月13日，属安徽省徽州专区。1956年1月12日撤徽州专区，隶属芜湖专区。1961年4月13日，复设徽州专区，绩溪县属之。1971年3月，徽州专区改称徽州地区，仍属之。1988年1月1日，划属宣城地区。