夏为蒙山有施氏地。
周代蒙阴地称蒙邑、堂阜邑、艾邑，分属鲁国、齐国。
西汉初（前205）建县，因在蒙山之阴，故名蒙阴县，隶属兖州泰山郡。
王莽篡位后，曾改蒙恩县。
东汉初，废蒙阴县，地属盖、牟二城。
三国时曹魏复制蒙阴县，属徐州琅琊郡。
西晋末因战乱废。
南北朝时，北魏于蒙阴地置新泰县，属南青州东安郡，与属泰安郡之新泰县并存。
东魏时，东安郡之新泰县改称蒙阴县，仍属东安郡。
北齐将蒙阴县并入泰山郡之新泰县。
自此经隋、唐、五代直至南宋景定三年，共712年，都属新泰县。
南宋景定三年（1262）蒙阴地又由新泰县划入沂水县，称新泰镇（旧蒙阴县志叫新寨镇）。
元皇庆二年（1313）重建蒙阴县，属益都路莒州。
明洪武二年（1369）属青州府。
清雍正八年（1730）又改属莒州。
清雍正十二年（1734）属沂州府。
1913年废府设道，蒙阴县属济宁道。
1925年又改属琅琊道。
1928年废道，直属山东省。
1936年属山东省第三行政区。
1941年9月，蒙阴县的大部分地区划为新蒙县、泰宁县、博莱县。
蒙阴县属鲁中区二专区。
1943年蒙阴县撤销，1943年9月恢复，仍属二专区。
1949年7月属鲁中南行政区沂蒙专区。
1950年6月改属沂水专区。
1953年8月属临沂专区。
1967年隶属临沂地区。
1994年12月临沂撤地设市，蒙阴县属临沂至今。