1959年4月，经山东省人民委员会批准成立山东省农业科学院农业机械化、电气化研究所，由山东省农业科学院直接领导；

1959年8月，经中共山东省委农村工作部批准，我所更名为山东省农业机械研究所。

1960年1月，我所从山东省农业科学院分立出来，划归山东省农业机械厅领导，业务受山东省农业机械厅与山东省农业科学院双重领导。

1963年2月，中国科学院山东分院机械动力研究所并入我所。

1965年5月，桑园路办公楼启用，办公地址由黄台路迁至桑园路19号，沿用至今。

1984年7月，我所被确定为首批科技体制改革试点单位。

1990年1月，经原国家机械委批准，我所成立了机电部农副产品加工机械产品质量监督检测中心济南分中心，该中心具有独立开展业务的权力。

2007年6月，我所在章丘建立的中试基地通过验收。

2013年5月，经山东省机构编制委员会办公室批准，我所更名为山东省农业机械科学研究院。

2015年12月，经山东省人民政府办公厅批准，我院划归山东省农业科学院管理。

2017年6月，我院作为首批纳入法人治理结构建设的院所之一，成立了首届理事会。