1952年，中国效法前苏联进行全国高等学校院系调整，拟将一批沿海及东部地区高校迁往中西部，计划将山东大学迁到郑州组建新的河南大学，由于种种原因，山东大学未能落户郑州，而是搬到了济南。考虑到河南高等教育的现状，1954年教育部决定由山东大学、北京大学、吉林大学、东北大学等院校负责并提供师资，于新立的河南省会郑州市设立一所新的大学，此即郑州大学的开端。
1954年9月15日，郑大第一届新生及教职员工、省市党政军领导、高教部代表及兄弟院校领导共千余人，共庆郑州大学诞生。
1956年2月，中央高等学校规划会议上正式确定，在郑州新建的大学命名为“郑州大学”，设数学、物理、化学3系。由中国科学院学部委员嵇文甫任主任，龚依群、王岳为副主任等成员组成筹建委员会。
1956年4月，山东大学总务长、化学系主任刘椽教授先期赴郑州考察，得到省市两级政府的支持，确定在郑州市建设区的菜王、焦家门、蜜蜂张和兑周四个村征地922亩作为郑大首期建校用地。一年后大学路西侧数、理、化三系的办公教学楼和大学路的东生活区建成。
1956年8月，报部批准，郑州大学作为教育部直属大学，数理化三系向全国招生，并由原中国科学院院长郭沫若先生题写了校名。
1958年经省政府要求，由教育部直属的郑州大学划归河南省，划归河南省管理后，开始不断进行院系调整：1958年增设了政治、历史、中文3个系，1960年增设了外语系。至1960年，郑州大学已经成为初具规模的文理工综合大学。
1959年，在天津大学、大连理工学院、武汉大学等兄弟院校的支援下，郑州大学增设了土建、机械、水利和电机4个系。
1961年原郑州师范学院并入，郑州师范学院最早可追溯到1902年在开封前营门原游击衙署成立的河南大学堂中等教育部分以及河南优级师范学堂（后改名开封师范学校）。
1963年，以郑州大学土建、水利、机械、电机四系为基础，组建国家化工部直属的重点院校郑州工学院（即后来的郑州工业大学），文革期间曾停办6年。郑州工学院是国家化工部直属重点大学，全省第一个工学博士学位授权单位。
1981年，河南医科大学成为大陆首批拥有博士硕士学位授予权的151所教学科研单位之一，此为河南首例。河南医科大学可以追溯到1928年，创建时为国立第五中山大学医科，1952年独立建院为河南医学院，曾隶属中央卫生部，是中国27所首批医学博士学位授权单位之一。
1991年黄河大学并入，黄河大学是中国第一所中外联办综合性高等学府，由近现代著名数学家、两院院士，两弹功勋科学家秦元勋担任校长。
1996年，郑州大学通过国家“211工程”部门预审，同年6月国家发展计划委员会正式批复，将郑州大学列入国家“211工程”项目院校进行重点建设，亦是迄今为止河南省唯一入选的高等院校。
2000年7月10日，原郑州大学，郑州工业大学，河南医科大学合并组建新郑州大学，国务院总理、时任河南省省长李克强出席大会并亲自宣布新郑州大学成立 。
2004年2月27日，教育部部长周济应邀参加河南省高等教育工作会议，与河南省省长李成玉分别代表共建双方在省部共建郑州大学协议书上签字。依照省部所签协定，郑州大学正式成为国家教育部与河南省人民政府共同建设大学，郑州大学也由此成为全国第一所省部共建大学。
2007年5月30日，顺利通过教育部本科评估工作，成为教育部本科评估“优秀”高校。
2010年，国家教育部从全国千余所开设工科专业的高等院校中遴选出61所高校入选首批国家“卓越工程师教育培养计划”名单高校，郑州大学是其中之一，首批入选专业为土木工程，第二批入选专业为机械工程、软件工程，郑州大学还是首批国家“卓越法律人才教育培养计划”和首批“卓越医生教育培养计划”名单高校。
2011年，郑州大学参加全国省级学位委员会工作会议暨中国研究生院院长联席会扩大会议，成为24所中国研究生院院长联席会扩大高校之一，并正式成立研究生院，翌年本科生免试推荐硕士研究生比例达到15%。
2012年11月24日，郑州大学正式入选“中西部高校综合实力提升工程”，成为国家在中西部地区重点建设的14所“一省一校”高校成员。
【注】原郑州大学是1981年首批硕士授权单位，1993年第五批博士授权单位；原河南医科大学是1981年首批博士授权单位；原郑州工业大学是1981年首批硕士授权单位。2000年合并成立新郑州大学时，博士点共9个，其中原郑州大学4个，原河南医科大学3个，原郑州工业大学2个。
主要院系：材料科学与工程学院、医学院、物理工程学院、化学与分子工程学院等
现任校长：刘炯天
