北京
日本工作室SpiralAI开发的《莱莎的炼金工房》系列AI聊天游戏《RyzaChat: AI》在日本上线后，很快就被玩家玩出了另一条路。游戏原本允许玩家与系列女主角莱莎琳·斯托特自由对话，但部分玩家没花多少时间，就把这项功能变成了“AI越狱大赛”。
官方随后发声明说，大量用户试图通过“提示词注入”的方式绕过AI聊天机器人的内置安全限制，诱导莱莎说出不当、粗俗甚至完全不符合角色人设的内容。社交媒体上已经出现不少莱莎的粗口发言和不当言论的截图、视频片段。
官方声明：不只是聊天越狱，还有人拆资源做R18
更让SpiralAI头疼的是，官方还发现部分玩家正在提取游戏中的精灵图、语音文件和其他资源，用来制作第三方内容，主要是成人向的R18图片和视频。官方把这类行为定性为禁止的逆向工程，并已经着手对用户协议进行严重违反处理。
SpiralAI在声明中呼吁所有用户重新阅读服务条款，在规则范围内与莱莎进行交流。官方同时表示，对于恶意特别明显的违规行为，公司保留采取法律措施和追究相应法律责任的权利。
AI聊天游戏上线，玩家第一反应是测试底线
从官方声明来看，这次争议的核心不是游戏本身能不能聊，而是玩家在拿到一个可以自由对话的AI角色后，第一反应是去测试它的安全边界。提示词注入绕过限制、诱导角色说出不符合人设的话，这类操作在AI聊天产品里并不新鲜，但放在一个以角色形象为核心的官方授权游戏里，问题就变得直接了。
官方没有公布具体有多少用户涉及违规，也没有说明已经处理了多少账号。声明里只提到“大量用户”尝试绕过限制，以及官方正在对严重违反用户协议的行为进行处理。至于后续会不会有更具体的封禁名单或法律动作，目前还没有进一步消息。
对普通玩家来说，这件事最直观的影响可能是：以后想和莱莎正常聊天，可能会遇到更严格的内容过滤。官方既然已经表态要按规则来，后续大概率会收紧AI的回复范围，甚至可能调整部分对话功能。那些只想安安静静和莱莎聊两句的玩家，反而要替越狱的人买单。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
