公元前221年，秦始皇统一六国，分全国为三十六郡。置歙县，先后属会稽郡、丹阳郡、新安郡等。
隋灭陈后，设歙州，治所在歙县，北宋徽宗时，平定方腊之乱后，将歙州改名为徽州。元设徽州路，明清时为徽州府。
自隋至近代，歙县作为徽州首县，就一直是徽州地区的政治、经济和文化中心。1988年，原徽州地区撤地设市（黄山市），将歙县西部地区析置徽州区。
歙县是徽州文化的发源地，徽州文化是中国汉族三大地域文化之一，指古徽州一府六县物质文明和精神文明的总和，而不等同与安徽文化。徽州文化是一个极具地方特色的区域文化，包容了中国后期封建社会民间经济、社会、生活与文化的基本内容，被誉为是后期中国封建社会的典型标本。学术界对徽州文化的研究，至少经历了大半个世纪，被誉为是并列与敦煌学和藏学的中国三大走向世界的地方显学之一。
徽州文化的内涵十分丰富，徽州人在各个领域里不断发展，形成了创造了许多具有文化代表性的流派。主要有程朱理学，朴学，也就是徽派考据学，新安画派，徽派篆刻，徽派版画，徽州契约文书，徽剧，徽州建筑以及作为八大菜系之一的徽菜等。