即墨之名，早在周朝的时候就有了，距今已两千多年。史书上说，因其濒临一条墨水河，而取名叫即墨。
即，就是濒临、靠近之意，墨，指的就是墨水河。在清代，青岛的市区一带，即隶属于即墨县仁化乡。所以青岛与即墨有着不可分割的历史渊源，在语言和文化上也是一脉相承的。
“即墨”因故城（位于今平度市古砚镇大朱毛村一带）地临墨水河而得名，其名称最早出现在《战国策》、《国语》、《史记》等历史典籍中。
春秋战国时期就是齐国通商名衢，秦代置县。汉初成为胶东政治、经济、文化中心。隋朝建城于现址，已有1400多年建城史。
1898年，德国强租胶州湾，把青岛从即墨分割出去，历史上先有即墨、后有青岛，也有“千年即墨、百年青岛”之说。
据考古确认在6000年前，先民就在该地区繁衍生息。
商、周时，即墨属莱夷地。
秦统一中国，即墨始定为县，属胶东郡。
西汉时，今即墨市境内除含有古即墨县的东南部外，尚包括壮武县、皋虞县、不其县等地。
晋统一后，即墨、壮武两县的隶属关系未变，不其县属长广郡，且为郡治所在。
隋开皇十六年（596年），重建即墨县于今址，兼有原壮武、不其、皋虞三县故地，属莱州（东莱郡）。唐及五代时，属河南道莱州。
元时，山东作为“腹里”直属中书省，即墨先后隶益都路胶州、般阳府路莱州；元世祖至元二年（1265年），即墨县再次被废，析地入掖县、胶水（今平度市），约在元至正九年（1349年）前恢复建制。
清初，即墨县属莱州府胶州。清光绪三十一年（1905年），胶州升为直隶州，属登莱青胶道，即墨县随属。清光绪二十三年（1897年），德国借口曹州教案，出兵侵占胶州湾，强迫清廷划出沿岸的部分土地为德之胶澳租界，其中包括即墨县仁化乡的白沙河以南地区和里仁乡的阴岛地区。
民国元年（1912年），沿袭清末旧制，即墨县隶属于登莱青胶道胶州。
抗日战争之后，南京国民政府在山东省境内的国统区设立行政督察区，即墨县属第八行政督察区；民国二十八年（1939年）11月，析第八行政督察区的部分县设立第十三行政督察区。即墨县隶属于第十三行政督察区。
1949年5月26日即墨城解放，即墨、即东两县也随即全境解放。
1989年7月，经国家民政部批准撤县建市。
2020年9月20日，国务院、山东省政府批复了青岛市区划调整的请示，同意撤销县级即墨市，设立青岛市即墨区。