清代中晚期，称“帐房山”。
清光绪二十九年（1903），中东铁路在此建火车站，定名“海林”。
始成为地名。
清宣统二年（1910年），隶属宁安府。
1921年属宁安县团聚乡。
1933年设海林保。
1939年设海林村，后改称海林街。
1946年8月设置新海县，为新海县驻地，设置海林区。
1948年8月，新海、五林两县合并为海林县后，仍设海林区。
1949年10月改为第六区。
1955年复称海林区。
1956年3月撤销海林县，划归宁安县管辖，同年11月设置海林镇。
1958年9月，成立海林人民公社。
1962年10月30日，恢复海林县，为海林县驻地。
1964年5月，将海林人民公社划分为海林镇人民公社和新合人民公社。
1980年6月，撤销海林镇人民公社，改设海林镇。
2001年2月，将石河、新合两乡并入。
名称沿用至今。