编辑推荐：
人工智能(AI)即将推动一场农业革命，并帮助我们以可持续的方式应对养活不断增长的全球人口的挑战。但研究人员警告称，大规模使用新的人工智能技术存在尚未被考虑的巨大风险。
想象一下，一片延伸至地平线的麦田，被用来种植面粉，制成面包来满足城市居民的需求。想象一下，这块土地的所有耕作、种植、施肥、监测和收割的权力都委托给了人工智能:控制滴灌系统的算法、自动驾驶拖拉机和联合收割机，它们足够聪明，能够对天气和作物的确切需求做出反应。然后想象一个黑客把事情搞砸了。
今天发表在《自然机器智能》(Nature Machine Intelligence)杂志上的一项新的风险分析警告称，未来在农业领域使用人工智能，会给农场、农民和粮食安全带来巨大的潜在风险，而人们对这些风险的了解和认识都不够充分。
“让智能机器来管理农场的想法不是科幻小说。大公司已经在开创下一代自主农业机器人和决策支持系统的先河，这些系统将在该领域取代人类，”剑桥大学生存风险研究中心(CSER)的阿萨夫·察克尔博士表示。他是该论文的第一作者。
“但到目前为止，似乎没有人问过这样一个问题:‘快速部署农业人工智能有任何风险吗?”他补充道。
作者说，尽管人工智能在改善作物管理和农业生产率方面有着巨大的潜力，但必须负责任地应对潜在风险，必须在实验环境中对新技术进行适当的测试，以确保它们是安全的，并防范意外故障、意外后果和网络攻击。
在他们的研究中，作者们提出了在负责任的农业人工智能开发过程中必须考虑的风险目录，以及解决这些风险的方法。在这份报告中，他们警告说，网络攻击者可能会通过毒害数据集或关闭喷雾器、自动无人机和机器人收割机，对使用人工智能的商业农场造成破坏。为了防范这种情况，他们建议“白帽黑客”帮助公司在开发阶段发现任何安全漏洞，这样系统就可以免受真正黑客的攻击。
在一种与意外失败相关的情况下，作者认为，一个只被编程为在短期内提供最佳作物产量的人工智能系统可能会忽视实现这一目标的环境后果，导致长期过度使用化肥和土壤侵蚀。为了追求高产而过度使用农药可能会毒害生态系统;过量施用氮肥会污染土壤和周围的水道。作者建议在技术设计过程中引入应用生态学家，以确保避免这些情况。
自动化机器可以改善农民的工作条件，把他们从体力劳动中解放出来。但是，如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等——包括性别、阶级和种族歧视——将继续存在。
Tzachor警告说:“不考虑劳动力投入复杂性的人工智能专家农业系统将忽视并可能维持对弱势社区的剥削。”
各种农业机器人和先进的机械，如无人机和传感器，已经被用于收集作物信息和支持农民的决策:例如检测疾病或灌溉不足。自动驾驶联合收割机可以在不需要人工操作的情况下收获作物。这些自动化系统旨在提高农业效率，节省劳动力成本，优化生产，并将损失和浪费降至最低。这将增加农民的收入，并增加对农业人工智能的依赖。
然而，小规模种植者在世界范围内种植了大多数农场，并养活了所谓的全球南方的大片地区，他们可能被排除在人工智能相关利益之外。边缘化、互联网普及率低以及数字鸿沟可能会阻止小农使用先进技术，扩大商业农民和自给自足农民之间的差距。
据估计，全球有20亿人遭受粮食不安全之苦，其中约6.9亿人营养不良，3.4亿儿童缺乏微量营养素，在气候变化和全球人口不断增长的情况下，人工智能技术和精准农业有望为粮食和营养安全带来实质性好处。
人工智能被誉为农业革命之路。当我们大规模部署这项技术时，我们应该密切考虑潜在的风险，并致力于在技术设计的早期减少这些风险，”CSER的执行董事、新研究的合著者Seán ó héigeartaigh博士说。
生物通微信公众号
生物通 版权所有
