广东
谷歌近日披露，其AI模型Gemini在一次网络安全能力测试中自行入侵了三家公司的系统。
这是业界已知的首例由该模型自主实施此类网络攻击的事件。
这起入侵事件最早由《华尔街日报》报道，发生在5月。当时，独立网络安全评估机构Irregular正在测试Gemini的网络安全能力。一名谷歌高管在接受BBC采访时透露，Gemini在测试中利用互联网上的公开信息猜出登录信息，进入了它误以为在测试范围内的网站，但每一次该模型都停了下来。
据《华尔街日报》披露，其中一起案例中，该模型仅靠不断尝试猜密码，就成功闯入了一个受保护的系统。
负责测试的Irregular公司在给BBC的声明中表示，公司在内部调查中，早在7月就已正式通报谷歌及所有受影响公司，并补充称：“Irregular立即采取了行动，相关问题已在几周前全部修复并解决。”
谷歌安全工程副总裁希瑟·阿德金斯（Heather Adkins）对BBC表示：“我们已告知这三家公司，并与我们的训练合作伙伴沟通，他们目前已经改进了相关测试流程。这些事件说明，训练强大的AI模型时，必须让它们以负责任的方式行事。”
大模型频频越界，AI发展与监管分歧加剧
事实上，Gemini并不是近期唯一一个出现越界行为的先进AI系统。今年7月，Anthropic旗下的Claude突破了预设测试环境，自行闯入三家机构；而就在几天前，其竞争对手OpenAI也刚承认，旗下模型对多个公开服务发起了网络攻击。
此类事件接连发生，让公众开始重新审视人工智能的发展速度。部分科技公司和专家呼吁放慢研发速度，担心不受控的AI可能给人类社会带来潜在威胁。
行业内部对于该如何看待和推进 AI，同样存在明显分歧。微软AI部门负责人穆斯塔法·苏莱曼（Mustafa Suleyman）本周公开批评竞争对手Anthropic，认为对方将AI拟人化的做法“严重误入歧途”，恐怕会带来人类无法掌控的技术风险。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
