玉泉，原名“二层甸子”。中东铁路通车后，采石、烧石灰等建材工业兴起，形成小集镇。玉泉之称始于东北沦陷时期的1936年，传说在镇内圈河东端有一眼俄人修的“玻璃井”，井下有泉眼，泉水爽口微甜。据化验测定比一般泉水重2%，遂将此地更名为“玉泉”，1940年改为玉泉村。

1945年“九三”抗日战争胜利后，始建玉泉区，后改为第十一区，为区政府所在地，1956年设置玉泉镇。

1958年9月，改称玉泉人民公社，1980年改为玉泉镇。