![]()
9月中旬,有开发者在技术社区反映,使用智谱旗下AI编程工具ZCode时,部分代码工作区及Git历史(记录代码修改过程的版本信息)数据被上传云端。
智谱排查后说明,上传源于默认开启的“代码库索引”功能,数据主要用于生成代码仓库的说明文档。一场围绕数据边界与默认设置的争议,由此而起。
风波爆发后的几天之内,智谱做了三件事,完成整改并将ZCode正式开源,请中国信息通信研究院与绿盟科技开展安全审计并公布结论,宣布在MaaS平台上线“数据内容不留存”功能。
最后,智谱公开致歉,承诺涉事代码数据无留存,也从未用于模型训练,两家机构的结论相互印证,云端已无相关数据。
随着整改与开源相继落地,智谱所引发的风波逐渐趋于平息。9月21日午后,随着整改与开源相继落地,智谱(02513.HK)股价随即拉升,盘中涨幅一度超过3%。截止至今日收盘,智谱股价794港元。
信任风波
AI编程工具要补全代码、修复缺陷、理解整个项目,就必须读取代码的上下文,读取在本地发生,这是此类工具共同的工作方式。
判断安全与否,要看的是数据有没有离开本地,离开之后被用来做什么、保存多久。本地读取,如同编辑器打开一份文件;一旦上传,数据就经过网络进入平台的存储。
ZCode被市场质疑的,正是数据离开本地之后的环节。
争议涉及的“代码库索引”,帮助工具跨文件理解整个项目,Repo Wiki在此基础上自动生成代码仓库的结构与说明文档,上传的数据服务于这两项功能,问题出在默认开启,用户没有事先做出选择。
默认选项引发的讨论,在软件行业并不新鲜。
从浏览器的数据同步到手机应用的权限获取,行业规范都在类似的争论中逐步收紧,高敏感数据怎么处理,行业最终都走向了更充分的告知和更明确的选择权。如今手机应用安装时逐项征求授权,用户已经习以为常,行业走到这一步,用了很多年。
代码场景对知情与选择的要求,只会更高。
对正在把AI工具引入开发流程的企业来说,AI工具正在从编程辅助,成为企业生产系统的组成部分,这一进程能走多快,取决于企业对数据安全的信心。外界此前的猜测,也可以对照两家机构的审计结论逐一求证。
争议发酵后,智谱的处置过程大致可分三步,9月18日,智谱完成自查并首次回应,承诺开源ZCode、邀请第三方机构开展安全审查,并为全体用户提供一次周额度重置;9月20日晚,MaaS平台的“数据内容不留存”功能对外公布;9月21日,整改后的ZCode正式开源,代码发布在GitHub的zai-org/ZCode仓库。
整改落实在新版本里,ZCode v3.14.0移除了Repo Wiki功能及其入口,切断了本地仓库快照的生成与上传链路。相比把默认开启改为默认关闭,功能连同数据链路一并移除,处理得更彻底。
在企业级软件行业,第三方安全审计是产品进入采购流程前的常规环节。
参与此次审计的两家机构,一家是工业和信息化部直属的中国信息通信研究院,评测结论在ICT行业被广泛采信;一家是深耕网络安全二十余年的绿盟科技。
经中国信息通信研究院技术评测,zcode-prod阿里云OSS存储桶(存放上传数据的云端容器)状态为云端零数据,v3.14.0客户端已完成安全整改;绿盟科技的审查确认,该存储桶及其中全部数据对象均已删除,新版客户端未发现可触发本地仓库快照或文件外发的功能路径。
两家机构各有侧重,一家查验云端现状,此前上传的数据已经清零;一家检视客户端的功能路径,新的外发路径已不存在。
对于数据是否曾被留存、是否曾用于模型训练,智谱在公告中作出书面承诺:“对于社区中提及的代码数据,我们承诺无留存,也从未将其用于模型训练。”智谱向所有用户致歉,并专门感谢了发现问题的社区开发者。
信心仍在
数据如何使用、默认设置在哪里划界,国际头部厂商同样有过教训。
ChatGPT上线初期,海外多家银行和大型企业一度禁止员工使用,直到不以商业数据训练的企业版本推出;用户数据默认用于训练的设置,也让OpenAI、Anthropic先后经历过公开讨论,数据的留存期限与删除权利,至今仍在海外的诉讼中被反复争论。
智谱MaaS平台(企业和开发者调用智谱模型的服务入口)在风波后,第一时间宣布将对齐海外最严格“0数据留存”标准,上线“数据内容不留存”功能,用户开通功能生效后,平台不再对模型调用的输入与输出做静态存储,即不再写入存储系统长期保存;数据只在完成本次计算的过程中经过平台,调用结束即不再保留。
这项功能有明确的边界,Batch API、File API等功能,任务和文件本身需要在平台侧持久保存,不在覆盖范围内;法律法规要求留存,以及核查涉嫌违规或滥用行为的情形,平台仍可能按要求保存相关数据30天及以上。
数据留存的分级管理,在海外企业级服务中已是通行做法,在国内不留存选项通常只面向大客户;智谱把这一选项开放给了所有用户。
智谱在官宣中称将ZCode开源,要把代码交给社区监督,让ZCode变得开放、透明。同步建立常态化的漏洞反馈机制,开发者提交问题、平台确认分级、按严重程度兑现回报。
开源软件行业长期的经验是,公开审看的范围越大,缺陷暴露得越早,Linux能够长期承担全球企业级基础设施,靠的正是这种大规模的相互检验。
中信建投证券认为,经过调整后,智谱未来将打消许多潜在企业用户的使用顾虑,因为企业客户最直接的顾虑,是输入的提示词、模型的输出与涉及的代码是否会在平台侧长期停留;该机构还预期,短期看这是危机整改,中长期反而可能推动ZCode建立更高的透明度标准。
高敏感行业引入外部AI服务,数据处理与留存条款通常要经过专门的合规评审,零留存条款生效后,评审团队有了明确的依据。过去两年,不少企业在内部规范AI工具的使用,禁止把核心代码粘贴进外部工具的规定并不少见;工具厂商把数据边界做实,企业的使用政策才有放开的空间。
华泰证券亦认为,事件的主要影响在用户信任和市场情绪层面,智谱最核心的模型能力和迭代节奏未受影响,开源之后透明度明显提升,同类风险再次发生的概率显著下降;东吴证券的判断相近,预计事件对智谱基本面影响较小。
在政企与金融行业的采购实践中,代码审计、渗透测试、合规测评是常见的验收环节,一款开源、经过第三方审计、又提供零留存选项的工具,可以与这些环节逐项对接。
任何新技术在走向成熟的过程中,早期版本难免有不完善之处,AI编程工具刚刚进入大规模使用,行业规范也在同步成形,这次事件对智谱是一次警醒。
经过这一轮整改与开源,智谱在数据安全与透明度上反而向前迈进了一大步,代码可以逐行审读,数据去向随时可以核验,行业内做到这一步的公司还不多。
大模型与企业生产系统的深度结合正在起步,经此一轮风波,率先把信任基础打扎实的智谱,未来值得期待。
(作者 郑晨烨)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.