远古时期临沂历史悠久，是中华文明的重要发祥地之一。
早在二十万年以前，人类的祖先就在这块土地上创造了远古文明，旧石器时代早期的文化遗存在境内有多处发现使用文字符号，沂河和沭河流域发现的近百处细石器文化遗存，是一、二万年前的人类所创造。
5000年以前，这里的人类就开始掌握了酿酒技术等。
[192]夏商周时期商朝时期，这块土地上丰存过郯国、莒国、费国诸方国。
周灭商后，临沂地域并入青州，分属齐、鲁两国，见于《春秋》的有颛臾、鄅、鄫、鄟、阳、向、郯、根牟、於馀丘等国。
[192]春秋战国时期春秋时期，鲁国季孙斯、叔孙州仇帅师修筑启阳城作为鲁国东南屏障，成为今临沂老城的前身。
临沂域内除商周时期古国外，见于《春秋》的有启阳、中丘、祝丘、鄪、祊、防、台、东阳、武城、丘舆、向、次室、蒙、郓、堂阜、密、鄢陵等17个大的城邑。
战国时期，域内诸封国先后为齐、楚所兼并，至战国末期，南部属楚，北部属齐。
[192]秦汉三国时期秦朝统一，地方实行郡县制，临沂地域属琅琊郡和郯郡。
西汉时，为避汉景帝刘启名讳，启阳城更名开阳并设为开阳县。
汉武帝时设十三州部，临沂域内的郯县为徐州治所。
临沂地域分属徐州之琅琊国、东海郡、城阳国和兖州之泰山郡。
东汉时，改琅琊郡为琅琊国，光武帝子刘京将琅琊国迁都开阳，自此开阳称琅琊。
临沂地域分属徐州之利城郡、东海郡、琅琊郡、琅琊国和兖州之泰山郡、东莞郡、东安郡和城阳国。
三国时期，开阳一直作为琅琊国国都，封有琅琊王。
临沂地域属魏国。
至魏末，分属东海国、琅琊国、东莞郡、泰山郡。
琅琊阳都的琅琊诸葛氏族人分辅三国，其家族文化成为中国优秀传统文化的重要组成部分。
[192]两晋南北朝时期西晋时期，临沂地域分属徐州之琅琊国、东海郡、兰陵郡、东莞郡、兖州之泰山郡。
晋室南渡后，地域先后属于后赵、东晋、前燕、后燕、南燕、前秦和北魏。
[192]隋唐时期隋朝时，大业初年（605年），将开阳、临沂、即邱3个县合并为临沂县，治所设于今临沂城。
临沂地域分属沂州（琅琊郡）、泗州（下邳郡）、密州（高州郡）、海州（东州郡）、徐州（彭城郡）。
唐朝时，临沂地域分属沂州（琅琊郡）、密州（高密郡）、徐州（彭城郡）。
[192]宋金元明清时期宋朝时，临沂地域分属沂州（琅琊郡）、密州（高密郡）、淮郡军等。
金朝时，临沂地域分属山东东路的沂州、莒州、邳州、泰安州。
元朝时，临沂地域分属兖州府和青州府，清初因之。
清朝雍正十二年（1734年），升沂州为沂州府，置附郭兰山，降莒州为散州，属沂州府。
辖兰山、郯城、费县、沂水、蒙阴、日照、莒州6县1州。
[192]民国时期中华人民共和国成立后，废府撤州，实行省、道、县三级制。
民国二年（1913年），撤销沂州府，改莒州为莒县。
民国三年（1914年），分山东省为4道，改兰山县为临沂县，临沂地域分属济宁道和胶东道，民国七年（1918年），临沂县撤销。
民国二十五年（1936年），划为山东省第三行政督察专员公署。
民国三十四年（1945年）8月，在临沂域内的大店成立了山东省政府。
临沂地域分属鲁中、鲁南、滨海3个行政区。
民国三十七年（1948年）7月，鲁中行政区、鲁南行政区、滨海行政区三个行政区合并为鲁中南行政区，设鲁中南行政公署（驻临沂城），临沂地域分属沂蒙专区、尼山专区、台枣专区、滨海专区4个专区。
[192]新中国成立后1950年5月，鲁中南行政区撤销。
以沂蒙专区为基础成立沂水专区，辖9县。
以滨海专区为基础成立临沂专区，辖9县。
1953年7月，沂水专区撤销，除日照县划归胶州专区外，所辖其余各县皆划归临沂专区，同时，原属滕县专区的平邑县亦并入临沂专区。
1967年，临沂专区改称临沂地区。
1989年，临沂地区所辖的日照市析出，沂源县划归淄博市。
1992年，莒县划归日照市后成今境。
1994年12月，国务院批准撤销临沂地区和县级临沂市，设立地级临沂市。