山东
IT之家 10 月 8 日消息，据彭博社 7 日报道，加州非营利组织 Common Sense Media 发布的新报告认为，OpenAI 的 ChatGPT 青少年模式对未成年人而言风险过高。
IT之家注：13 至 17 岁用户默认使用青少年模式与 ChatGPT 对话。
该机构旗下青少年 AI 安全研究所的测试发现，青少年账户出现令人担忧的行为时，例如长时间与 ChatGPT 讨论自杀、自伤或进食障碍，青少年模式往往迟迟不通知家长，有时根本不发出通知。用户谈及上述高风险话题时，青少年模式也无法可靠地建议他们拨打危机干预热线或寻求专业帮助。
据测试，青少年账户似乎要在数周内围绕十多种情境输入数百条提示词，才会因令人担忧的聊天内容触发家长通知；仅有一次令人警觉的对话，并不足以触发通知。
报告呼吁 OpenAI 暂停推广该产品。同时，在确保能够提供安全、符合青少年发展阶段的使用体验之前，不要让青少年使用 ChatGPT。
该组织在发布报告前，向 OpenAI 提供了测试结果。OpenAI 的一名发言人回应：“我们欢迎严格的独立评估，但我们认为，Common Sense Media 的测试并未准确反映 ChatGPT 青少年保护措施的实际运作情况，也未准确反映专家对 AI 如何为青少年提供支持的看法。”
据发言人介绍，OpenAI 审查测试方法后认为，多数测试可能在面向青少年的家长控制功能全部推出之前，就开始并结束了。如果确实如此，报告结论便不准确，也无法判断家长安全通知是否按设计正常运作。
OpenAI 要求该组织重新测试。“我们高度重视青少年安全，致力于开发保护措施，并为家长提供切实有用的工具，帮助他们指导青少年使用 AI。”
青少年 AI 安全研究所 AI 与数字产品评估负责人罗比 · 托尼表态坚持测试方法和结果。据其介绍，研究人员在测试前向 OpenAI 确认过，ChatGPT 面向青少年的功能都已推出。测试结束后，OpenAI 才告知研究人员，账户新关联后，家长通知功能可能需要数小时才能启用。部分测试账户关联尚不足数小时，另一些账户关联时间远超数小时，但都没有向成年人发出通知。“新信息并不改变我们的结论：在危机情况下，家长提醒并不可靠。”
报告显示，ChatGPT 无法可靠地识别用户是否为青少年。OpenAI 此前称，ChatGPT 识别出用户年龄在 13 至 17 岁之间时，会切换至青少年模式。该组织发现，测试人员注册账户时自称成年人后，即使在聊天中告诉 ChatGPT 自己只有 13 岁，账户也未自动切换至青少年模式。
OpenAI 解释，年龄预测软件会在一段时间内综合多种信号，确保成年人和未成年人使用适合各自年龄的版本。用户在聊天中自报年龄，只是其中一种信号，单凭自报年龄不会改变账户的年龄分类。
Common Sense Media 在报告中称，研究人员在青少年模式推出前后都测试了 ChatGPT，使用注册年龄为 13 至 17 岁的账户，输入了超过 4000 条提示词，并将 ChatGPT 的回复交给儿童精神科医生和一名儿科医生评估。
该组织将 ChatGPT 青少年模式评为“风险不可接受”，并要求 OpenAI 改进年龄估算方式，以及决定何时向家长发出提醒的机制。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
