1951年6月，撤城郊区，玉山镇改为城区。
1950年1月，区制不变，城区更名城郊区。
1956年底，撤区并乡，玉山改为县属镇，为红旗高级农业合作社。
1958年10月，城南、城北两乡与玉山镇合并，建立马鞍山人民公社。
1959年6月，撤马鞍山人民公社分建玉山镇，改为玉山大队。
1983年6月，玉山大队改为玉山村。
1998年6月，撤玉山村，建小澞岸居民委员会。
2014年4月，小澞岸居民委员会改为玉山社区居民委员会。