春秋时属东莱，战国时期属齐国。

秦始皇帝二十六年（前221年），置琅琊郡（后置胶东郡），崂山地区属之。

西汉时设不其县，辖崂山境，属琅琊郡。

东汉建武六年（30年），于不其县境内置不其侯国。

东汉光和年间（178～183年）至三国时期，不其县属东莱郡。

晋咸宁三年（277年）至南北朝时期，属长广郡，郡治设不其城。

北齐天保七年（556年），废不其县，其地并入长广县。

隋开皇十六年（596年），不其县故地并入即墨县，至清光绪二十四年（1898年），崂山境域均属即墨县。其中，明洪武二十一年（1388年）置鳌山卫，境内军户属之。清雍正十二年（1734年）裁鳌山卫，归并于即墨县。

光绪二十四年（1898年）3月6日，德国逼迫清政府签订中德《胶澳租界条约》，白沙河以南、砖塔岭以西的崂山地区划入租借地。

1914年11月，日本取代德国侵占青岛，崂山地区被日军侵占。

1922年12月10日，中国收回青岛主权，设胶澳商埠督办公署，崂山地区属之。

1929年7月，南京国民政府将胶澳商埠政区改为青岛特别市，崂山地区属之。

1938年1月10日，崂山地区再次被日军侵占。

1945年8月，日本投降，南京国民政府接收青岛，崂山地区属青岛市。

1949年6月，崂山地区解放，设崂山行政办事处，属南海专区。

1950年5月，改属胶州专区。

1951年4月，划归青岛市。

1953年6月，改为青岛市崂山郊区。

1961年10月，设立崂山县。

1988年11月，撤县设立青岛市崂山区。

1994年4月，经国务院批准，青岛市市区行政区划作重大调整，设立新的崂山区。