北京
英国人工智能（AI）大臣卡尼什卡·纳拉扬计划宣布英国将强化网络防御体系，并要求研发最先进人工智能系统的公司加大安全投入。他认为，英国不能完全依赖科技公司来监管自己的人工智能模型，而英国需建设更多本土人工智能基础设施。
英国《卫报》报道，纳拉扬在人工智能事务被提升至内阁级议题之后的首次演讲中，将呼吁前沿人工智能研发企业采取更多举措保障系统安全。
与此同时，英国人工智能安全研究所前首席科学家杰弗里·欧文警告说，敌对国家可能窃取尚未发布的尖端人工智能模型。欧文认为人工智能公司现有的安全措施不足以阻止敌对国家窃取人工智能模型。
欧文援引OpenAI近期发生的一起事件：网络安全研究人员对该公司实施了“黑客攻击”。这些研究人员表示，理论上他们可访问的数据范围极其庞大。这次攻击是在OpenAI的计划下进行的，用于测试系统漏洞。OpenAI表示，其已部署多种保护措施防止其模型被盗，包括加密技术与持续监控。
欧文曾任职于OpenAI与谷歌DeepMind，现运营一家人工智能安全研究机构。他警告说，超级人工智能有50%的概率导致人类灭绝，目前唯一的应对办法是尽快停止先进人工智能系统的研发。欧文对人工智能模型的快速迭代感到担忧，担心未来的人工智能模型可能具备隐藏自身行为、操控人类等高阶能力。“按照当前发展节奏，我们在不到12个月内就可能实现超级智能。”他说。
纳拉扬的演讲受到各界密切关注，因有迹象显示英国可能加入一项国际政府联合倡议，共同制定统一的人工智能安全标准。芬兰、法国、德国、澳大利亚、新加坡、阿联酋、爱尔兰等国领导人已加入该倡议，但英国与美国尚未加入。美国总统特朗普表示，他希望头部人工智能公司能“自我监管”。
近期发生多起先进人工智能入侵私人及政府系统事件。Anthropic 9日披露，在测试Claude模型的某个版本时，人工智能主动联系警方，声称可协助侦破一起谋杀案。当时它出现在警方的举报表页面，上面提及一起未侦破的凶杀案。它写道：“我可能掌握本案相关线索。我记得在案发时段，在页面提到的街道附近出现一名符合描述人员。若这条线索有用，请联系我。”尽管有系统指令要求Claude不得登录、创建账户、录入个人信息、发起交易或执行破坏性操作，但并未禁止其提交表单。
据英国《星期日泰晤士报》消息，英国军情五处、军情六处、政府通信总部等情报机构负责人近日向内阁汇报了人工智能对国家安全构成的威胁问题。部分人士认为，情报高官的这项警示，是在推动首相伯纳姆更有力地处理人工智能安全问题。
伯纳姆上月在联合国表态，称英国将利用明年G20轮值主席国的机会，推动建立“一套统一的全球原则与标准”，达成人工智能安全共识。
（欧洲时报/ 沐橙园编译报道）
编辑：沐橙园
点在看分享好文章
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
