清代及民国初年，金山镇一带东、东北是茂明安旗地，西、西南归鸟拉特东公旗管辖。
民国十五年（1926年），属固阳县大部分地域称五区，东南归七区。
民国二十六年（1937年）11月，属伪固县公署，城区及周边称县城镇，西南及南称民义乡。
民国三十四年（1945年），属固阳县，城区及周边称县城镇，西南及南称民裕乡。
1950年3月，称第一区，属固阳县。
1955年6月，改称城关区。
1956年10月，撤销城关区，扩大城关镇管辖范围，城关区周边较远地域划归相邻区。
1958年7月12月，改设为城关、公圣西2公社。
1960年3月，改设为城市、九份子、公益民、东胜水、忽鸡淘5公社。
1978年5月，城市公社改为城关镇。
1984年7月，九份子、公益民、东胜水、忽鸡沟4公社均改乡。
1993年8月，城关镇改称金山镇。
2005年4月，忽鸡沟、公益民2乡合并为公忽鸡沟乡，东胜水乡并入九份子乡。
2005年12月，九份子、忽鸡沟2乡并人金山镇。