天津
10月6日，OpenAI公布了文本水印方案textGrain，以响应欧盟《人工智能法案》对生成文本可识别的要求。未来几周内，欧盟境内所有符合条件的ChatGPT和Codex用户，无论订阅何种套餐，其输出的文本都将自动嵌入人眼不可见的统计水印；而对于全球API客户，该功能已可选择开启，但默认关闭，暂不会作为全球默认设置。
根据欧盟《人工智能法案》，生成式AI提供商必须以机器可读的方式标识其生成的文本。OpenAI在官方说明中指出，文本水印与检测技术目前仍处于早期阶段，存在明显局限，因此将采取分阶段推进的策略，并明确说明了水印技术的适用范围与边界。此外，图像和音频的来源验证工具将继续向相关机构开放，不受此次文本水印方案的影响。
textGrain的工作原理是：在模型选词过程中嵌入人眼不可见的统计信号，检测器可据此判断文本是否含有OpenAI水印。OpenAI表示，内部评测显示，该方案的性能达到或超过了包括Google DeepMind的文本水印方案SynthID在内的其他同类方案。目前，相关技术报告已公开发布，并计划后续开源，供外部开发者在此基础上进行二次开发。
OpenAI同时公布了该技术的检测局限。在目标误报率控制在1%的前提下，对于约400个token的心理学类文本，检出率约为95%；当文本长度缩短至约200个token时，检出率降至约80%。而对于数学等用词选择空间较小的专业内容，检出率则明显更低。此外，对约400个token的文本进行同义替换后，若替换10%的词汇，检出率会从约92%降至66%；若替换25%的词汇，检出率则骤降至约17%。公司强调，理想环境下的测试表现并不能保证在日常使用中的可靠检出。
在OpenAI最新前沿模型Astra的多项基准测试中，加水印与未加水印的版本成绩没有明显差距。例如，在Artificial Analysis Intelligence Index测试中，两者得分分别为49.76分和49.57分；在Terminal-Bench 4.0测试中，准确率分别为56.06%和53.90%。
OpenAI强调，水印仅作为一种有限的识别信号：它无法衡量人类对文本的编辑或创作贡献程度，不能确定文本归属或法律责任，不能识别用户、账号或提示词，也无法证明内容的真实性。反之，未检测到水印也不能直接证明文本出自人类之手——这可能是因为文本过短、经过编辑或翻译，也可能来自不支持水印的模型、水印功能上线前的输出，或是其他公司的生成工具。
即日起，OpenAI开始接受水印检测器的使用申请，初期仅向经批准的研究人员和专业机构开放，用于技术评估与改进。检测结果仅会报告是否检测到OpenAI水印，不会识别用户身份，也不会暴露提示词或对话内容。鉴于漏检和误报风险，该功能上线初期不会向公众开放。此外，OpenAI正与云合作伙伴推进合作，未来通过其服务调用的OpenAI模型输出也将能够添加水印。
值得注意的是，Anthropic已于今年8月为符合同一法案，采用了基于SynthID的文本水印方案。OpenAI表示，将根据技术进展、行业标准和实际证据持续调整textGrain方案，并在确认检测结果能够被负责任地解读后，再逐步扩大检测器的开放范围。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
