唐代时期，境域设大射戍，因系屯兵储粮基地，遂为重镇。
宋代时期，属蓬莱县沙门寨地。
明代时期，属蓬莱县沙门社。
清道光年间（1821年—1850年），在南长山岛上设4社。
民国十七年（1928年），为长山八岛民政局所辖。
民国二十三年（1934年），改社为乡。
民国三十四年（1945年），长山岛军政办事处撤乡建区，南长山岛各村属庙岛区；同年11月，将南、北长山自庙岛区划出建玉石区。
民国三十六年（1947年），南长山岛划为中正、中山2乡。
1949年，成立玉石乡。
1956年，成立长岛县，境域仍为玉石乡。
1958年11月，长岛县并入蓬莱县，为长岛公社玉石大队。
1963年6月，复置长岛县，改设南长山公社。
1982年，撤销南长山公社，设立长岛镇。
1984年，更名南长山镇。
2010年12月，撤镇设南长山街道。