江山镇在明代辖铁石乡表政里江山社的林邦、前村、石神岐等聚落,郭邦社的铜钵、郭山、林尾等聚落;涂潭社的平坑、上车、下车等聚落。
清代至民国初辖内江山社、外江山社。
1929年5月至1931年秋,成立江山区苏维埃政府,辖铜砵、山塘、村美、前村、外山、新田、大湾、江山、畲背。
1932年4月至10月,成立万山区苏维埃政府,辖江山区和万安区部分乡苏维埃政府。
1933年,民国龙岩县府下社江山区,辖4个。
1937年设4个联保。
1941年改设铜江乡、东岭乡。
1944年合并铜江乡。
1949年11月龙岩县人民政府下社江山区,辖5个村及万安区的车背(斜背)村。
1957年设江山乡、万山公社。
1965年又合并称江山公社。
1984年7月改设江山乡。
2011年7月撤乡设镇(9月29日揭牌)。
郭香玉(1897―1940),女,福建省龙岩县江山乡人,谢觉哉同志的夫人。郭香玉早年丧夫,与幼子相依为命。1929年参加农民武装-,同年秋加入中国共产党。1930年8月调厦门,任中共福建省委(地下党)