西晋元康元年（291），刘道成、道崇兄弟二人相约辞官，从徽州婺源牧童市迁新吴县，定居在今县城西门。
永嘉二年（308），刘道成得道之后，刘道崇迁上富宅背建村，系上富最早居民，唐代著名诗人刘慎虚即其后裔，因其“孝友恭俭，哲悟过人”，上富曾被洪州剌史吴兢表彰为“孝悌乡”。
明清时为奉化乡，辖整个上富以上地区，系奉新最大的乡。
民国十八年（1929），上富属第四区。
1932年，上富属第五区。
1935年，上富改称第四区。
1945年设上富镇。
1949年上富属第五区。
1951年上富改属第六区。
1958年成立上富人民公社。
1984年机构体制改革，改称上富乡人民政府。
1986年4月，恢复上富镇。