1949年建砂山街政府，1959年改胜民公社，1962年改砂山公社，1978年改砂山街道。

1996年，面积4平方千米，人口5.7万人，辖38个居委会，按序数命名。

2002年，办事处驻河北二街2号，人口6.07万人，面积4.28平方千米，辖砂阳北、水源地、砂阳南、公路局、南京南、辽声、河北、砂川、砂平、万和、玉屏一、玉屏二、坝南、砂山新村14个社区。

2005年，砂山街道南京南街以东部分并入集贤街道。2007年，将原砂山街道砂阳路以北部分划入新华街道；同年更名为浑河湾街道。