遵南社区，明清时期属遵义县南乡忠庄里一甲。
宣统三年（1911），属南三区。
民国二年（1913），属南三上区。
民国二十一年（1932），属第八上区南白锦镇。
民国三十年（1941），建南白锦镇辖11个保，属第二保。
1949年11月，遵义县解放后，沿袭民国保甲行政区划。
1950年10月，废保、甲区划，置村（居）、组。
今地域属第五区南白镇。
1953年4月，属原南白镇新街村。
1958年9月，撤乡镇区划，置人民公社，为五里大队，隶属南白区水库群人民公社南白管理区；1961年8月，属南白区南白人民公社；1963年3月，属南白区南白镇；1966年3月，撤销南白镇，并入南白公社。
1978年11月，复置南白镇（乡级），分属南白镇和南白公社。
1984年3月，分属南白镇城区办事处和南白村。
2003年5月，撤销城区办事处，由原五里大队、南白村的五里、十里、田湾、幸福4个村民组，北段居的开阳、县党校、县农机局等4个居民小组合并组建遵南社区。