唐及五代，镇境属歙县孝悌乡玉泉里民国初年沿袭清制，后设区、乡、镇。

清代，镇境属歙县十三都五图。

民国二十一年（1932年），推行保甲制镇境属歙。县第四区（区驻地岩寺）。

民国二十九年，境内属第二区（岩寺区）。

民国三十年，镇境设黄山乡，驻地汤口。

民国三十三年（1944年8月），属许林区黄山乡。

1956年，设黄山乡，与今日汤口镇所辖地域基本相符。

1983年，改设为黄山乡。同年12月1日成立县级黄山市后，划入黄山市。

1983年，撤销黄山人民公社，改设黄山乡。

1985年1月，黄山乡改设汤口镇。

1985年1月，设为汤口镇。

1987年12月，撤销徽州地区改为地级黄山市，原县级黄山市改称黄山区，汤口镇隶属黄山区。