境内地域历史上东部属于闽县，西部属于侯官县，民国时统归闽侯县管辖。
1929年在今洪山镇的西部就设立净土、豹屏、西湖、丰乐等乡，1940年上述4乡合并为净屏、西豹两乡，此2乡所辖的地域即今洪山镇的中心地带。
中华人民共和国成立之初，在今洪山镇和新店镇的地域上设立洪山区，1952年，洪山与新店分两区，隶属于郊区行政办事处。
洪山区下辖团结、五凤、长汀、祥板、梅峰6乡和西洪、洪山两镇。
1953年，西洪、洪山两镇合并。
1955年洪山区撤销，所辖乡镇隶属郊区行政办事处。
1958年成立市郊区人民公社洪山分社（次年改为公社），下辖兴园、大凤、凤湖、长汀、祥坂、西郊、晨光、国光、保福、梅峰10各生产大队。
与此同时，高桥、水部、东门、西门、华大、公正等今洪山东部也组成鼓楼农业人民公社。
1960年3月至1961年6月洪山人民公社一度撤销。
1970年洪山公社与红卫公社（原鼓楼公社）合并，名为红卫公社，属红卫区（鼓楼区）管辖，高桥、东门、水部、西门、华大、公正、紫阳等村纳入辖内。
1975年红卫公社划属蔬菜区管辖，原属新店公社的温泉、泉塘、五凤等村纳入辖内。
1981年复称洪山公社、1982年复归郊区管辖。
1984年撤社建乡，同时生产大队改为村民委员会。
1992年洪山乡改制为镇。
1996年归属鼓楼区。