1949年前，属赣县沙石区沙石乡、隅南乡及桃江区新兴乡部分辖地。
1949年8月14日解放，行政区划仍沿旧制。
1950年6月设置吉埠、沙石、五爪龙、火燃、龙下、甘霖、新圩、新兴等乡，分属沙石区、桃江区。
1952年10月划小乡后，设有吉埠、坝上、双圳、沙石、五爪龙、火燃、龙下、甘霖、新圩、坪路、新兴等乡，仍分属沙石、桃江两区。
1956年6月撤区并乡，设有沙石、龙下、新路、新兴乡；1957年2月复设区，沙石、龙下乡属沙石区，新兴乡属桃江区，新路乡为直属乡；1958年9月名为火箭公社沙石管理区；1959年10月设立沙石公社，1960年3月吉埠大队划属赣州市；1961年10月调整社队规模，分设沙石、龙下、新路3个公社，属沙石区。
1963年7月撤区，沙石公社改名为沙石中心公社，吉埠大队从赣州市南外公社划入；同年冬，沙石、龙下、新路三公社合并，名沙石公社。
1968年沙河公社并入。
1972年10月分出沙河公社。
1978年元月10日划属赣州市，仍名沙石公社。
1984年4月29日改乡制，名沙石乡。
1987年4月5日撤乡改镇，名沙石镇，得名后沿用至今。