山西省农业科学院前身可追溯到1903年的山西农事试验场。

2019年10月19日，中国共产党山西省委员会省政府决定，山西农业大学和山西省农业科学院合署改革，合署后单位名称为“山西农业大学”。

1953年，山西省在太原许坦村成立省农场；

1954年，试验研究机构与推广机构分离，省农场改组为综合试验场；

1955年，改为山西省农业科学研究所；

1959年2月21日，成立山西省农业科学院，各地农科所均属于省农科院体系；

粉碎“四人帮”后，山西省政府将下放地方的农科所，以及果树、畜牧两所先后收归省农科院。

2019年10月19日，山西农业大学和山西省农业科学院合署改革，合署后单位名称为“山西农业大学”。保留山西省农业科学院的牌子。一个党委、一套班子。

截止2019年底，在职职工2650人，其中专业技术人员1936人。全院离退休2500人。

在高级科技人才中，博士生导师11人，硕士生导师172人，有突出贡献的专家9人，享受政府津贴61人，省科技功臣7人，新世纪百千万人才工程国家级人选1人，农业部科研杰出人才1人，省学术技术带头人41人，山西省英才72人，省新型产业领军人才9人，省青年拔尖人才5人，三晋青年学者1人。中央联系的高级专家3人，省委联系的高级专家11人，引进海外高层次专家22人。国家现代农业产业技术体系岗位科学家13人。

据2020年8月官网显示，全院拥有国家级创新平台19个，包括：国家谷子改良中心长治分中心，国家杂粮加工技术研发分中心，国家抗虫棉中试基地，国家谷子、玉米、马铃薯原原种繁殖基地，国家引进国外智力成果示范推广基地，国家专家服务基地，全国农业农村信息化示范基地，国家枣、葡萄种质资源圃，国家高粱产业技术创新战略联盟等；建有农业农村部黄土高原作物基因资源与种质创制重点实验室，农业农村部中华人民共和国农产品质量安全法风险评估实验室等2个；农业农村部黄淮海大豆产区农业科学观测试验站，农业农村部太原作物有害生物科学观测实验站，国家农业环境晋中观测实验站，国家植物保护忻州观测实验站等4个；中国农科院太原杂粮研究中心。国家现代农业产业技术体系综合试验站29个，建有1个省级院士工作站，建有9个省级重点实验室，省部共建大学工程实验室（中心）3个，省工程技术研究中心2个，省海外高层次人才创新创业基地1个，省级农作物种质资源库1个。

据2017年12月官网资料显示，农科院建有省级农作物种质资源库1个。

农科院馆藏各类农业科技文献20余万册，建立了农业科技实验资料、农业科技成果农作物品种、涉农企业、农业科技动态、农业科技人才、农业实用技术等数据库。

农科院农业图书馆建立了“中兽医学杂志”数据库镜像站。拥有清华同方中国期刊全文数据库、中国优秀博硕士学位论文全文数据库、方正Apabi中文电子图书、中国学术会议论文库、SpringerLink等多种中外文数据库，自建了馆藏图书、期刊文献数据库，注册了国家科技文献信息中心（NSTL）外文全文请求服务系统。

“十二五”期间，全院鉴定科研成果129项，其中12项达国际领先水平，76项达国际先进水平。获国家科技进步二等奖3项；获山西省科学技术奖81项，其中：一等奖8项，二等奖41项，三等奖32项。246个农作物新品种通过省级审（认）定，占全省审定品种的48.7%，39个品种通过国家审(鉴)定。28个品种获国家植物新品种权。351件专利获国家授权。经农业部批准发布的行业标准2项，山西省地方标准150项。在省级以上学术刊物发表论文2371篇，其中国家级论文598篇，出版专著81部。

据2017年12月官网资料显示，农科院编辑出版有《华北农学报》、《村委主任》、《山西农业科学》、《山西果树》等专业刊物。