现小河乡由原小河乡和凤溪乡于1995年合并设立。

1950年属浏阳县第四区

1956年改称小河乡

1958年改为汉高公社

1959年并入上游公社

1961年改小河公社

1983年复名小河乡

1995年原小河乡和凤溪乡合并。

1997年下辖枫龙、山口、严坪、新河、上冲、彪佳、易家、田心、清溪、火厂、小坑、白沙、黄草坪、潭湾、皇碑、册田、横岭、鹤冲、排前、石马、乌石、凤凰岗22个行政村。

2004年并村后，辖田心村、潭湾村、新河村、金沙村（火厂村）、皇碑村、乌石村、严坪村 共7行政村。