新加坡专家：人工智能时代，警惕“坏土壤”种出“毒果实”

导读

AI竞争的全球化带来新风险，国际协调监管的重要性日益凸显。AI训练依赖数据“土壤”，但生成式AI可能用劣质数据产出看似可信的结果，导致错误信息代代相传。当前治理AI的关键不只是监管数据集，而是管理不断流动的数据环境。用户需了解AI的访问权限、推断能力和行为边界。全球应推动数据治理、责任追溯和风险控制标准。各国虽难以形成统一规则，但仍可建立最低治理共识，确保AI在安全可信的基础上发展。

转载请注明来源：中国日报中国观察智库。

作者：陈西文
(Simon Chesterman)

新加坡国立大学副校长
NUS学院创院院长

人工智能 (AI) 竞赛已真正走向全球化，随之而来的风险也日益凸显。一个AI系统可能由A国研发，但运行在B国的硬件设备上，调用的数据存储在C国，并对世界各地的人们产生影响。这样一来，任何国家都无法单独管控这条产业链，必须依赖多国协调合作。然而，若不首先明晰治理对象，有效的国际协调便无从谈起。

多年来，人们总说“数据是新时代的石油”。这个说法虽然生动地点明了数据的价值，但并不完全准确。石油是一种有限的资源，会在使用过程中逐渐耗竭，而且开采成本高昂；而数据则可以被无限复制、反复利用，几乎可以说是取之不尽、用之不竭，而且许多数据是人们在不知不觉间免费让渡出来的。

如果非要把数据比作什么的话，或许更好的比喻是“土壤”。

训练AI系统离不开数据，正如作物生长离不开土壤一样。而这片“土壤”的质量、构成与来源至关重要。一片土壤受到了污染，可能蔓延到其他地方；适合某一种作物的土壤未必适合另一种。归根结底，要保持生产力，这片“土壤”需要持续的呵护与培育。

图片来源：视觉中国

在计算机科学界流传着一句名言：“垃圾进，垃圾出”。意思是如果输入低质量的数据，那么无论计算机程序多么先进，最终也只能输出低质量的结果。然而在生成式AI领域，这条经验似乎不那么“灵”了：一个由受“污染”或有缺陷的数据训练出来的AI系统，仍可能会生成辞藻华丽、言之凿凿、看似完全可信的回答。诞生于劣质“土壤”的“果实”看上去可能依旧光鲜亮丽。

这样的AI系统输出的结果，随后可能被发布、被大众所盲目采信，甚至被当作训练数据“喂”给其他的AI模型。其危险性在于，错误的“种子”不仅没有被销毁，反而被消化吸收，然后种进新的“土壤”里代代相传。

早期关于负责任AI的讨论主要聚焦于训练数据，关注它是否存在偏见、获取过程是否合理合法，以及数据质量是否达标。这些问题固然至关重要，但如今的关注点已从训练阶段转向了运行阶段。

许多较新版本的AI系统能够实时获取信息，连接数据库，调用软件工具，并记住之前的交互记录。AI智能体可以读写文档，与客户沟通，进行采购或修改记录。在训练模型时，数据环境不再是静止不变的，而是随着系统的持续运行而不断发生变化。

图片来源：新华社

因此，仅凭一次性的数据集检查是不可能确保万事大吉的。我们需要治理的是动态的数据流，而不仅是静态的数据集。系统能够访问哪些信息、能够推断出哪些内容、可以将这些信息传输至何处，以及被授权采取哪些行动，对于这些问题，用户必须心中有数。

搜索引擎知道我们想要获取什么信息，社交平台了解我们认识哪些人、怎么认识的，而AI伴侣和智能体则可能直击人类内心最柔软、最脆弱的防线——推断我们的感受、恐惧和信任。单次的人机互动可能看似稀松平常，但累积起来的数据却能勾画出极为私密的个人画像。随着时间的推移，系统能够从一些微不足道的互动中判断出用户的偏好、弱点以及人际关系。

长期以来，数据保护在很大程度上依赖于用户的同意，然而谁能够预见AI将来可能怎样使用这些数据，或利用这些数据推断出什么呢？因此，在与AI系统建立长期关系之前，用户或许需要一份数字版“婚前协议”，提前明确当双方关系终止时，AI将收集、存储、共享，以及删除哪些数据。

知情权至关重要，但仅靠知情同意仍无法实现全面的保护，我们还需要建立问责与申诉机制：究竟是谁批准了对数据的访问？相关决策是否可追溯？受此决策影响的人能否对其提出质疑或要求撤销？一旦出现问题，责任又该由谁来承担？

图片来源：中国日报

有人将治理视为创新道路上的一枚“停车标”，但其实更恰当的比喻是“安全带”：它不是让人们停下创新的脚步，而是让我们更快、更安全地前行。糟糕的治理或许能让实验快速推进，但绝难支撑大规模的落地部署。信任、完善的文档记录以及明确的责任划分，都是创新体系的重要组成部分。

相关管控措施应视AI的能力与可能的后果而定。AI的自主性越强，它访问数据和工具的权限就越大，其行为的不可逆性就越高，那么相应的安全防护措施也就应当越严格。

我们的目标不是消除所有风险——这是不可能的。要让AI系统做到“绝对安全”，只有把它关掉并封锁起来。因此，我们要有效管控风险，只能通过设置访问权限、对重大操作进行确认、保留记录，并且仅在有必要时才扩大AI的自主权。

世界各国在法律传统、经济优先事项和社会价值观方面存在差异，因此不太可能就单一的国际AI监管机构或通用规则达成一致。然而，在数据来源、安全性、测试、事件报告、审计追踪，以及开发者、部署者和用户之间的责任划分等方面达成最低限度的共识，仍应当是可行的。

图片来源：新华社

当然，这并不意味着要建立统一的监管体系，更不是提倡由某个单一国家主导。问题的关键在于互操作性。若缺乏互操作性，企业将面临相互冲突的合规要求，而个人用户则可能因为治理体系割裂而跌落到司法管辖权的“缝隙”之中，权益难以得到保障。

随着大国之间的AI竞争日趋激烈，国际协调变得更加迫切。正如航空、电信和金融等行业都将国内监管与国际标准相结合——因为跨境治理体系需要共同的基石，AI治理也是同理。核心原则很简单：管好你的数据，了解你的AI智能体，并明确谁对它的行为负责。

或许AI在各种“土壤”中都能茁壮成长，但在一些看不见的地方，土壤可能受到污染，导致杂草丛生、毒素蔓延，而那些原本健康的作物反被排挤殆尽。因此，构建负责任的AI系统，绝不仅仅在于几次技术突破，而是需要持续的培育，在“根系”和“种子”层面开展跨越国界的合作。

图片来源：中国日报

本文英文原文发表在中国日报国际版，原标题为 "To cultivate robust AI, fertilize the soil it grows in"，点击文末“阅读原文”可查看。

出品：中国日报中国观察智库

责编：杜娟 李薇

编辑：张钊

中国观察 (China Watch Institute)是中国日报旗下的传播型智库，汇聚全球中国问题研究的意见领袖、政商精英和学界翘楚，建设全球中国议题“朋友圈”；集纳海内外“最强大脑”的权威观点，建成内容具有聚合性、权威性和工具性，传播效果具有穿透性的高端平台和中国议题最权威的风向标。

我们关注的重点议题包括国际关系和全球治理、经济、科技、人口、气候环境、卫生健康、粮农土地等。欢迎国内外专家学者和机构同我们联系，分享智慧成果，建立合作关系。

投稿/合作：editor@chinawatch.cn

电话：+86-10-64995859

地址：北京市朝阳区惠新东街15号

好看，请 [点赞] [分享] [推荐]