1924年8月，直系要员高恩洪选用德国侵占青岛时所建俾斯麦兵营（现鱼山校区北半部分）为校址，创办了私立青岛大学。
1925年5月，直奉战争再起，直系败北，校长高恩洪被逼去职。1925年只招收了铁路管理科学生20人，1926至1927年未再招生，1928年5月停办，学生均按结业处理。
1928年8月，南京国民政府教育部批准由何思源、杨振声、赵太侔、杜光埙等11人组成筹备委员会，着手在济南筹建国立山东大学，但因"五三"惨案后日本拒不从济南撤兵，筹备工作无法进行。1929年6月，国民政府教育部接受著名教育家蔡元培的建议，指令将国立山东大学筹委会改为国立青岛大学筹委会，在青岛筹建国立青岛大学，校址就选在原私立青岛大学。
1930年4月，国民政府教育部任命著名作家杨振声为校长，正式成立国立青岛大学。国立青大设文、理两个学院，分设中国文学系、外国文学系、教育学系、物理学系、数学系、化学系、生物学系。
1932年9月，南京国民政府行政院议决，将国立青大改为国立山东大学，并任命赵太侔为校长。赵太侔接任后增聘老舍、洪深、张煦、丁山、王淦昌、童第周、曾呈奎等一批专家、学者任教，师资阵容更为齐整。
1937年"七七"事变，抗日战争爆发，国立山大奉命迁往安徽安庆，不久又迁往四川万县，在青岛只留下校产保管委员会。
1946年春，经国民政府教育部批准，国立山大在青岛复校，赵太侔再任校长。
1951年3月，在济南的华东大学奉命迁至青岛，与国立山大合并，定名为山东大学。
1958年10月，山东大学主体迁往济南后，以留在青岛的海洋系、水产系、地质系、生物系的海洋生物专业、物理系和化学系的部分教研组，以及数学、外语等直属教研组部分人员等为基础，经中共中央批准，于1959年3月成立了山东海洋学院，并列为教育部直属的重点综合性大学。
1960年10月，学校被中共中央确定为全国13所重点综合大学之一。
1962年，教育部撤销山东地质学院建制，其人员和设备并入海院，与海洋地质地貌系合并成立海洋地质系。
“文革”期间，学校被迫停止招生5年。1965年山东海洋学院划给国家海洋局建制，1979年重归教育部直属。1971年山东省对高校布局和专业进行调整，水产系并入烟台水产学校，1978年初又归建到山东海洋学院。
1988年，学校更名为青岛海洋大学，校名为邓小平同志题写。
2001年2月，国家教育部、山东省人民政府、国家海洋局、青岛市人民政府签署协议，共同重点建设中国海洋大学。
2002年10月，经国家教育部批准，学校更名为中国海洋大学。
院系专业
中国海洋大学海洋环境学院 海洋科学、大气科学、海洋科学（中外合作）
中国海洋大学信息科学与工程学院 海洋技术、物理学、光电信息科学与工程、电子信息科学与技术、电子信息工程、通信工程、计算机科学与技术
中国海洋大学化学化工学院 化学（含海洋化学方向）、化学工程与工艺
中国海洋大学材料科学与工程研究院 材料化学、高分子材料与工程
中国海洋大学海洋生命学院 生物科学、生物技术、生态学
中国海洋大学水产学院 水产养殖学、海洋资源与环境、海洋渔业科学与技术
中国海洋大学食品科学与工程学院 食品科学与工程、生物工程、海洋资源开发技术
中国海洋大学医药学院 药学
中国海洋大学海洋地球科学学院 地质学、勘查技术与工程、地球信息科学与技术
中国海洋大学环境科学与工程学院 环境科学、环境工程
中国海洋大学工程学院 港口航道与海岸工程、船舶与海洋工程、土木工程、工程管理、机械设计制造及其自动化、工业设计、自动化
中国海洋大学数学科学学院 数学与应用数学、信息与计算科学
中国海洋大学外国语学院 英语、日语、朝鲜语、法语、德语
中国海洋大学文学与新闻传播学院 汉语言文学、文化产业管理、新闻学、编辑出版学
中国海洋大学法政学院 法学、政治学与行政学、行政管理、公共事业管理（社会保障与社会管理方向）
中国海洋大学管理学院 会计学、财务管理、工商管理、市场营销、电子商务、旅游管理
中国海洋大学经济学院 金融学、国际经济与贸易、物流管理、经济学（海洋经济方向）
中国海洋大学基础教学中心 教育技术学、音乐表演、运动训练
中国海洋大学社会科学部 专门从事思想政治理论课教学和研究，无本科专业
现任校长：于志刚
