清康熙六十一年（1722年），属在城里。
清宣统元年（1909年），属护城团，属中正区。
民国二十三年（1934年），属虹溪镇。
民国二十六年（1937年），属东北镇，析虹溪置东北、西南2镇。
民国二十八年（1939年），东北、西南2镇合并为城厢镇。
民国三十一年（1942年），属东北镇，析城厢镇置东北、西南2镇，属第一指导区。
1950年，属城关区东北镇；同年7月，东北镇改为东北乡。
1951年，属第一区（晋新区）。
1955年，东北乡并入晋新乡。
1961年，设常灵公社。
1967年，常灵公社更名星火公社。
1981年，星火公社更名常林公社。
1984年，由常林公社改为常林乡。
1992年9月，常林乡并入晋城镇。
1997年7月，晋城镇析置常林乡。
2006年8月，木角、群德2乡并入常林乡。
2019年10月，撤销常林乡和宏桥乡，两乡合并设立常林镇。