1960年2月，首建冷水江市，辖禾青、毛易、矿山、中连、渣渡5个人民公社和锡矿山、金竹山、冷水江3镇。同的5月，将3镇改为城市人民公社。
1961年7月，改名冷江市。
1962年3月，将5个农村人民公社和3个城市人民公社，调整为禾青、三尖、潘桥、毛易、梓龙、铎山、岩口、矿山、晏家、中连、化溪、渣渡13个农村人民公社和金竹山、锡矿山、五一3个城市人民公社。
1963年10月，撤销市建制，设冷江特区，归新化县管辖。
1969年10月，第二次建冷水江市，辖禾青、潘桥、毛易、梓龙、金竹山、渣渡、中连7个公社和冷水江、锡矿山2镇。
1975年6月，矿山、岩口、铎山、三尖公社从新化县划入市域，全市共有11个公社2个镇。
1977年12月，从中连公社划出同兴、白杨、白石、永兴4个大队，建立市农业科技示范场。
1981年9月，改冷水江、锡矿山2镇为街道办事处，同时增设沙塘湾、球溪2个街道办事处。同年12月，撤销示范场，建立同兴公社，年底，全市共有4个街道办事处，12个人民公社。
1983年6月，毛易、同兴改政社合一的人民公社为乡人民政府。
1984年初，金竹山、禾青、中连、渣渡等10个公社均改建为乡人民政府。
1987年底，共有冷水江、锡矿山、球溪、沙塘湾4个街道办事处和金竹山、毛易、渣渡、梓龙、禾青、潘桥、中连、三尖、矿山、岩口、铎山、同兴12个乡。
1989年，撤销禾青乡改设禾青镇，撤销岩口乡改设岩口镇，撤销渣渡乡改设渣渡镇。
1996年9月，撤销铎山乡改设铎山镇。
1999年12月，撤销毛易乡改设毛易镇。
2002年2月，撤销三尖乡改设三尖镇。
2009年7月，经省政府批准，冷水江市对沙塘湾街道办事处、毛易镇、金竹山乡的行政区划进行了调整。
2010年5月，撤销金竹山乡改设金竹山镇。
2015年11月，根据冷水江市乡镇区划调整方案，岩口镇与铎山镇合并设立铎山镇；梓龙乡与渣渡镇合并设立渣渡镇；矿山乡与锡矿山街道合并设立锡矿山街道。撤销潘桥、同兴2个乡和毛易镇，调整禾青镇、中连乡的部分行政区域和布溪、冷水江、沙塘湾3个街道的部分管辖范围。本轮乡镇行政区划调整后，冷水江市共减少6个乡级建制。