冷水滩原为零陵县的一个镇：冷水滩镇。1960年2月，经湖南省批准设立冷水滩市。1962年10月，撤销市建制，仍由零陵县管辖。1969年改地区直属镇，同年改县辖镇。1984年6月，经国务院批准，恢复冷水滩市建制，辖原零陵县黄阳司、普里桥、冷水滩、楚江圩4区和邮亭圩区白塘乡。
1995年撤区并乡，河东街道更名为梅湾村街道，城北街道更名为菱角山街道，城中街道更名为肖家园街道，城南街道更名为杨家桥街道，水浪坝乡、仁湾乡合并设立仁湾镇，山头乡并入蔡市镇，楚江圩镇并入岚角山镇，孟公山乡、白塘乡合并设立伊塘镇，香花坝乡、潮水乡合并设立竹山桥镇，上岭桥乡、阳山观乡、马路街乡合并设立上岭桥镇，花桥乡、坪塘乡合并设立花桥街镇，牛角坝乡、牛角圩乡合并设立牛角坝镇，杉木桥乡、楠木冲乡并入普里桥镇，水口桥乡、郝皮桥乡并入黄阳司镇，易家桥乡、高溪市乡合并设立高溪市镇。
1995年11月21日，国务院(国函【1995】110号)批准：撤销零陵地区和永州市、冷水滩市，设立地级永州市和芝山区、冷水滩区。以原冷水滩市为冷水滩区的行政区域，冷水滩区人民政府驻清桥路 。