1957年3月,湯陰縣地置鶴壁市,為省轄市,委托安陽專署領導,後改為省直接領導。1958年12月,安陽專署撤銷,鶴壁市曾一度歸新鄉專署領導。1961年12月恢複安陽專署,又改歸安陽專區。1960年10月到1961年11月,湯陰縣曾一度劃歸鶴壁市。1986年1月,浚縣、淇縣劃歸鶴壁市管轄。
鶴壁的曆史最早可以追溯到3000年前的商朝武丁大帝時期,武丁大帝是商朝首都朝歌的奠基者。中國周朝最大的諸侯國衛國的首都仍建在朝歌,衛國第18代國君衛懿公嗜好鶴,在宮廷朝歌西北等處養鶴,鶴壁因“鶴栖南山峭壁”而得名。