清末,巨宝乡一带属甘井子荒务行局辖境。
中华人民共和国成立后,1914年划归龙江县,隶属甘井子佐治局管辖。
1916年划归布西设治局。
1926年划归甘南设治局。
1928年隶属第四区。
东北沦陷后初隶甘南县第四保。
1938年改设前大岗子村。
1943年改称巨宝村。
1945年“九三”抗日战争胜利后,1946年3月,划归东阳区管辖。
1948年3月,将东阳区西南部7个行政村划出,设置巨宝区。
1955年底和1956年初,为接收安置山东移民,勘建9个移民新村。
1956年3月,撤区划乡,分设巨宝、工农两个乡。
1958年4月,将工农乡并入巨宝乡。
同年9月,改称巨宝人民公社。
1960年3月,将巨宝公社并入东阳公社。
翌年5月,又恢复巨宝公社建制。
1984年4月,政社分开,改为巨宝乡。
1998年改为巨宝镇。
名称沿用至今。