宋代时期，境域属蓬莱县沙门寨地。
元、明时期，属蓬莱县沙门社。
清末时期，始有南、北长山之分。
清道光年间（1821年—1850年），在北长山岛上设北城社和店子社。
民国十七年（1928年），分设北城、店子2社。
民国二十三年（1934年），改设为北城乡和北店乡。
民国三十四年（1945年），属庙岛区；同年11月，改属玉石区。
民国三十五年（1946年），重归庙岛区。
民国三十七年（1948年），在北长山建率真乡。
1949年，设庙岛乡。
1958年11月，长岛县并入蓬莱县，为长岛公社庙岛大队。
1963年6月，复置长岛县，改设北长山公社。
1984年，撤公社设北长山乡。
2000年12月，庙岛乡并入，改设北长山区公所。
2003年2月，改设北长山乡。