1934年，烟台从福山县划出，成立烟台特别行政区。
翌年，先后划分为五个自治区，第一自治区即现今办事处大致辖区。
1945年10月，改为东山区。
1950年2月，东山区更为第二区。
1955年，原辖区域分解为二马路、南山路两个街道。
1958年实行政社合一体制，办事处先后建置城市人民公社、街道办事处。
1975年6月，二马路、南山路、市府街三个街道合并为东山人民公社。
1979年12月，撤销城市人民公社，设立东山街道。
1983年11月市改区后，隶属芝罘区至今。