山东农业大学是一所具有百年历史的名校。其前身是1906年（清光绪32年）创办于济南的山东高等农业学堂。1913年改名为山东公立农业专门学校。1926年，公立农专与其他五所专门学校合并，成立了省立山东大学，其中公立农专成为省立山东大学农学院。1928年改为国立山东大学农学院，迁址青岛。1937年因抗战爆发，学校由青岛迁四川万县办学，1946年迁回青岛复校。当时的山东大学农学院设农艺、园艺、水产三个系及一个农场。同一时期，1947年山东省立农学院在济南原公立农专旧址宣告成立，设有农艺、园艺、森林、农业经济四个系，后改名为山东农学院。1952年10月，根据国家教育部关于院系调整的意见，山东省立农学院与当时的山东大学农学院合并，同时调入齐鲁大学农业专科、金陵大学园艺系、南京大学园艺系果树组，组成了新的山东农学院，校址在济南。新的农学院汇集了陈瑞泰、李家文、丁巨波、王清和等一大批国内外知名的专家教授，经他们数十年不懈的努力，为学院和学科的发展建设奠定了坚实的基础。1958年，学校迁址泰安，由山东农学院、山东林学院、山东畜牧兽医学院、泰安农业专科学校、泰安水利学校合并建立山东农业大学，1959年改称山东农学院。此后几十年，虽然也有过一些调整，但学校的主体没有大的变动。1983年9月，经教育部和山东省人民政府批准，山东农学院改名为山东农业大学。

1999年7月，经山东省人民政府批准，将山东农业大学、山东水利专科学校合并，同时将山东省林业学校并入，组建新的山东农业大学。

山东水利专科学校的前身是创建于1955年的山东省济南水利学校，1958年校址迁至泰安，同年10月与山东农业大学合并，改为山东农业大学水利系。1959年与山东农业大学分开，12月改为山东省泰安水利学校。1984年6月经教育部批准，改建为山东水利专科学校。经过四十多年的建设发展，至1999年12月合校前，学校有教职工423人，其中教授10人，副教授、副研究员50人，全日制在校生2,489人。学校设有水利工程系、水资源系、建筑工程系等3个系，社科部、基础部2个教学部和水利工程、水资源与水文、房屋建筑工程等15个专业。是教育部确定的全国30所示范性高等工程专科重点建设学校之一。建校以来，共培养大中专毕业生1万余人，培训各类在职人员7000余人。

山东省林业学校创建于1952年，是全国建校最早的五所中等林业学校之一，校址位于泰安县北关玉皇阁。至合校前的47年中，学校曾六易其名，先后为：林业部泰安中等林业学校、山东省泰安林业学校、山东省泰山林业学校、山东林学院、山东农业大学中专部、山东省林业学校。学校占地208亩，分南北两院，校舍建筑面积65,093平方米。教学实验实习条件优越，80亩的树木标本园有木本植物498种，草本植物312种，有实验林场20,000余亩，木材蓄积量7万立方米。截止合校前，学校有教职工341人，其中高级讲师39人，讲师69人。学校设有林业、森林保护、经济林、桑蚕等4个专业，其中林业、森林保护为国家重点专业。建校以来，共为国家培养大中专毕业生5,360余人，培训在职干部5,570余人、农民林果技术员1,300余人。