明嘉靖年间属惠化乡；清康熙年间属惠化乡；民国时期属太莲乡；1949年属大邦区；1955年属余店区兴隆乡兴隆6社；1958年成立人民公社，兴隆6社分为6大队和肖店6大队，为肖店6大队，属七一公社兴隆管理区；1959年为肖店6大队，属余店公社兴隆管理区；1961年恢复区（镇）建制，为肖店6大队，属余店区（西）肖店公社；1974年改名为大山大队，属余店区（西）肖店公社；1975年2月撤区并社，为大山大队，属兴隆公社；1983年底设区建乡，为大山村，属关庙区（西）肖店乡；1987年9月撤区并乡，为大山村，属长岭镇；1990年为大山村，属关庙镇至今。