宝山乡，旧名“二保”，别名“孟子衡街基”。
清末，属甘井子荒务行局辖境。
中华人民共和国成立后，1914年划归龙江县，隶属甘井子佐治局管辖。
1916年划归布西设治局管辖，1921年改隶佐治局第二保，由此得名“二保”。
1926年划归甘南设治局，1928年隶属第二区。
1929年经当地乡绅孟子衡上请获准正式勘定街基，因境内多山，故取名“宝山”，但因新名初辟，人们仍习惯称“孟子衡街基”。
东北沦陷后，初为甘南县第二区，后改为第二保，1938年改设宝山村。
1945年“九三”抗日战争胜利后，1946年3月，划为宝山区。
1948年3月，将东半部地区划出设置太平山区。
后将宝山区改为第三区。
1956年3月，撤区划乡，分设永发、靠山、泉眼3个乡。
同年12月，将永发乡改为宝山乡。
1958年4月，将靠山乡并入宝山乡。
同年9月，将宝山、泉眼、太平山3个乡合并为宝山人民公社。
1960年5月，撤销长吉岗公社，并入宝山公社;1961年5月，恢复长吉岗公社建制。
1984年4月，政社分开，将宝山公社改为宝山乡，名称沿用至今。