清咸丰年间（1851—1861年）。有康姓。金姓旗丁在今镇北兰阳村开荒立屯。起名为康金井，亦称老康金井。
中华民国初年。设康井乡。
1926年修筑呼海铁路。在此建立康金井火车站，并设市政分局，从此改称“康金井”。
东北沦陷后，1933年设康金井保。
1939年改为康金井村。
1945年“九三”抗日战争胜利后，1946年设置康金井区，1949年改为第二区，康金井为区政府驻地。
1956年3月，撤区划乡，设置康金井镇。全镇总人口7644人，其中非农业人口5016人，占总人口的65.5%。
1958年秋，“小乡并大社”，改称康金人民公社。
1984年3月，改设康金镇。
2009年经省政府同意，市政府批准呼兰区撤销康金镇，设立康金街道，自此康金镇改康金街道。