随着全球人口预计在2050年突破90亿，农业生产面临着前所未有的压力。传统农业依靠人工经验进行作物管理，效率低下且难以应对大规模生产需求。人工智能技术的出现为农业带来了革命性变革，机器学习(ML)和深度学习(DL)模型在作物病害识别、产量预测、资源优化等方面展现出强大潜力。然而，这些先进的AI系统大多如同"黑箱"，其决策过程缺乏透明度，导致农民和农业专家难以理解和信任AI提供的建议，特别是在涉及重大经济决策的场景中。
以植物病害诊断为例，尽管深度学习模型能达到99%的准确率，但当模型出现误判时，使用者无法了解决策依据，这严重限制了技术在实际生产中的推广应用。缺乏解释性还可能导致潜在的系统性偏差无法被及时发现，例如模型可能过度依赖某些非关键特征进行判断，而忽略真正重要的生物标志物。这种透明度的缺失不仅影响用户信任，还可能带来实际生产风险。
为解决这一关键问题，研究人员对2017年至2024年间发表的155篇相关文献进行了系统分析，涵盖了Scopus、Web of Science、IEEE Xplore等七个权威数据库。研究重点关注可解释人工智能(XAI)如何为农业AI系统提供透明度，使复杂模型的决策过程变得可理解和可追溯。
研究人员采用系统文献综述方法，遵循PRISMA指南，通过四个阶段(识别、筛选、资格检查、纳入)严格筛选文献。研究提出了五个关键科学问题，包括XAI在农业中的概念定义、当前研究趋势、植物病害识别应用、实时检测效果评估以及不同利益相关者对XAI解释的理解差异。最终纳入的文献涵盖了机器学习、深度学习和XAI在农业领域的多种应用场景。
研究结果表明，XAI通过多种技术途径提升农业AI的透明度。局部可解释模型-无关解释(LIME)能够为单个预测提供直观的局部解释；SHapley加法解释(SHAP)量化各特征对预测结果的贡献度；梯度加权类激活映射(Grad-CAM)则通过可视化方式展示深度学习模型关注的关键图像区域。这些方法在不同农业场景中均表现出良好的解释效果。
在植物病害识别方面，结合XAI的深度学习模型不仅实现了高精度分类(如EfficientNetV2L模型达到99.63%准确率)，还能提供决策依据的可视化解释，帮助使用者理解模型为何将某片叶片判定为患病。在产量预测领域，基于LSTM-XGB的混合模型结合SHAP分析，能够明确各环境因素(如土壤pH值、降雨量)对产量的具体影响程度，为农业管理提供科学依据。
研究还发现，不同利益相关者对XAI解释的需求存在差异。农民更倾向于简单直观的可视化解释，而农业专家则需要更详细的技术参数。这种差异提示未来的XAI系统需要提供分层解释功能，满足不同用户群体的需求。
尽管XAI在农业应用中展现出巨大潜力，研究也揭示了若干挑战。现有研究多基于实验室环境下的数据集(如PlantVillage)，在实际田间环境中模型性能可能下降15-20%。此外，XAI方法的计算开销可能增加系统延迟，影响实时应用效果。数据质量和代表性不足也是制约因素，许多研究使用的数据集规模有限且缺乏地理多样性。
研究人员提出，未来发展方向应包括开发更适合农业场景的固有XAI方法(如基于注意力的视觉Transformer模型)，减少对后 hoc解释方法的依赖。同时，需要建立更完善的多模态数据集，包含不同生长条件、地理环境下的作物图像，提高模型的泛化能力。与农业从业者的紧密合作也至关重要，确保XAI解释符合实际生产需求和应用场景。
这项发表在《Artificial Intelligence Review》上的研究为XAI在农业领域的应用提供了系统指导，标志着农业人工智能正从单纯追求预测精度向透明度与精度并重的新阶段发展。通过使AI决策过程变得可理解、可追溯，XAI技术有望架起人工智能与人类专家之间的信任桥梁，推动智慧农业真正落地实施，为应对全球粮食安全挑战提供可靠的技术支持。
研究结论表明，可解释人工智能不仅是技术优化的工具，更是建立负责任农业AI生态系统的核心要素。随着技术的不断成熟和应用场景的拓展，XAI有望在作物育种优化、病虫害早期预警、资源精准调配等多个环节发挥重要作用，最终实现农业生产的智能化、精细化和可持续发展。
