中华人民共和国成立前夕属乌石乡第三保，中华人民共和国成立初期属一区乌石乡，1952年为四区关刀山乡，1958年乌石公社成立，划为横山大队，1961年划出，为关刀山大队。
1969年并入横山大队，1972年划出，为关刀山大队，1984年体制改革，为关刀山村民委员会。
1988年，撤销村委会，组建村公所，为关刀山村公所，作为乌石镇人民政府的派出机构。
1993年撤销村公所，为关刀山村民委员会。
属乌石镇人民政府。