唐麟德二年（665年），置潭栗县，隶鬱州，治今镇古城村。
次年，潭栗县改属鬱林州。
唐天宝元年（742年），潭栗县改属鬱林郡。
唐德三年（758年），潭栗县复改属鬱林州。
宋开宝五年（972年），潭栗县并入兴业县。
民国元年（1912年），后分属鬱林县大平山乡和兴业县大平山乡。
1950年6月，分属鬱林县第九区和兴业县第一区。
1953年，设第八区，属鬱林县。
1955年9月，第八区改为大平山区属鬱林县。
1956年3月，大平山区改属玉林县。
次年12月，大平山区析为大平山、龙安两乡，同属玉林县。
1958年10月，设三山公社，属玉林县。
1964年，析陈村公社为大平山、龙安两公社，同属玉林县。
1984年10月，大平山、龙安两公社撤改为大平山乡，属玉林市。
1990年12月，大平山力改大平山镇。
1997年4月，大平山镇划归兴业县。