《崔氏族谱》载；“由唐迄宋更数代，有讳汝正者，居莱邑之石马庄。
汝正祖以前，纪载阙如也。
始祖汝正避金兵之乱，往迤北大金山。
及大元开国，始复旧居。
有石马老茔谱碑可考。
西石马有原碑存焉。”又载：“故唐之大姓有五，以吾族冠芦、李、郑、王之首。”宋宣和二年（1120年）《重修黄红峪仙人洞古佛堂碑记》已有“石马泉”的村名记载。
据此，宋代已形成村落。
据传，该村原名“汲泉”，系因齐国孝妇颜文姜远汲泉水供姑饮而得名。
又据村东金代开国之碑所载，亦有“崖下庄汲泉”字样。
由此可断定该村曾用“崖下”为庄名。
早年曾有“先有崖下，后有石马”之说。
明嘉靖二十三年（1544年）《莱芜县志》，已有“西石马”的村名记载。
清雍正十二年（1743）设博山县时，为青州府博山县正南路石马社。
清宣统二年（1910）为博山县第四区德化乡，分东石马社、西石马社。
1932年改社为乡镇。
1958年3月划归博山区，1958年10月成立人民公社时两乡合并为石马人民公社。
1984年改为石马乡。
1992年12月石马撤乡设镇。