北京
安徽滁州 67 岁农户吴大伯依靠 AI咨询芝麻田植保方案，因大模型内容幻觉推荐错误除草剂，导致 150 亩芝麻大面积枯萎绝收。这场非天灾、非人为故意造成的损失，深刻暴露出生成式 AI 的内在缺陷，为高风险场景过度依赖智能工具敲响警钟。
种植过程中，吴大伯向 AI 询问除草除虫方案，系统生成了一套表述严谨、流程完整的飞防作业指导，指定使用除草剂氟磺胺草醚。由于内容看起来专业可靠，农户直接全田喷施。经农技人员核实，该药剂为大豆专用除草剂，对芝麻有致命伤害，直接造成整片作物倒伏枯死。这份看似严谨的方案，只是 AI 通过网络文本关键词概率拼接出来的结果，并不具备真实农业生产常识。
很多人误以为 AI 流畅的回答就是可靠专业知识，这是核心认知误区。人类依靠因果逻辑判断农药药性与作物适配性，而大模型没有真正理解能力，仅做文字概率匹配，即便答案错误也会语气笃定地输出，不会主动告知风险。在农业用药这类低容错场景下，算法一次概率偏差，就会转化为不可逆的财产损失。
本次药剂推荐出错，源于 AI 训练数据天然的长尾缺陷。大豆、玉米等主粮作物农技资料充足，芝麻作为小众作物相关语料稀少，模型在数据不足时直接挪用大豆植保方案套用到芝麻种植上。面向普通用户的 AI 产品不会提示答案可信度不足，极易误导缺乏辨别力的使用者。
涉事平台仅在页面角落用极小字体标注 AI 内容仅供参考，以此完成风险转嫁，对于老年农户基本起不到警示作用。平台没有对农药、医疗等高风险问答设置强制提醒和人工复核机制，且主流产品均隐藏答案置信度，只用确定性结论输出，加剧了大众对 AI 的盲目信任。
150 亩绝收的芝麻，直观体现了 AI技术的局限性。现阶段大模型只能完成文本重组，无法进行因果推理和风险预判，更无法承担实操带来的后果。业内建议，农业生产、问诊、法务、投资等重要决策，AI 仅可作为信息参考，最终必须由专业人员判定。面对 AI 过于肯定的回复，使用者应多方核验、保持质疑。技术可以提效，但不能替代专业经验与人的最终把关，以此规避技术不确定性带来的现实风险。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
