夏、商时属扬州。
西周至春秋时先后属弦国、黄国。
战国时先后属秦弦地、楚国。
秦代属九江郡。
汉代属江夏郡。
三国时属魏国弋阳郡。
晋代属豫州弋阳郡。
南北朝时先后属豫州弋阳郡、光城左郡、光州、沙州、豫州广陵郡、弋州弋阳郡。
隋代至元代属光州光山县。
明代属光山县南乡沙城里。
清代属光山县南乡沙城里山河保。
1914年属光山县沙城区。
1919年属沙城里。
1929年夏属弦南区。
1932年10月划归经扶县沙城区。
1941年属沙城镇。
1947年10月复属沙城区。
1947年12月属新县沙城区。
1949年7月分属陡山河乡、柳林河乡。
1953年4月属四区。
1955年10月复属沙城区。
1958年5月属陡山河乡。
1958年8月分属苏区人民公社陡山河、柳林河2个生产大队。
1960年属陡山河人民公社。
1961年8月属陡山河区。
1962年6月复属陡山河人民公社。
1967年1月析陡山河、柳林河2个生产大队部分区域，置连康山生产大队。
1979年11月12日部分区域划入柳林河生产大队。
1983年5月更名为连康山村民委员会，属陡山河乡。