夏、商、周属白翟地。
秦属上郡。
两汉属西河郡。
魏、晋属赫连大夏。
北魏、北周属上郡。
隋属胜州。
唐属麟州，称折塘关。
五代属府谷县。
宋时先为百胜寨，后为孤山寨，属府谷县。
元属府谷县。
明正统二年（1437年），在今孤山镇西十里的的军沟村设孤山堡，属府谷县。
明成化二年（1466年），移至今孤山戴家石畔脚底。
明成化十一年（1475年），迁至今孤山城内。
清时继称孤山堡，属府谷县。
民国改称天平镇，属府谷县。
1950年6月，设立孤山区。
1958年9月，成立孤山公社。
1984年5月，改设为孤山乡。
1997年11月，撤乡建镇。