元、明，属泗安乡。
清，属东三、五甲和北一甲。
宣统元年（1909年），属中兴乡。
民国二十四年（1935年），属第三区羊马、中兴2联保。
民国二十九年（1940年），改羊马镇。
民国三十年（1941年），镇改乡。
1953年，羊马场改镇。
1956年，崇江乡梓潼、伏虎、拱阳3村划归羊马镇。
1957年，羊马镇并入羊马乡。
1958年，羊马、安乐、太平3乡合并为五江公社。
1959年，析附城管理区置城关镇。
1961年，析五江公社置羊马、安乐、太平3公社，羊马仍辖原区域，并调整为13个大队，后改镇为乡。
2004年安阜乡与羊马镇合并，新建羊马镇。
2019年12月24日，撤销羊马镇，设立羊马街道，以原羊马镇所属行政区域为羊马街道的行政区域。