上海
近日，“AI教父”杰弗里·辛顿(Geoffrey Hinton)在接受BBC《新闻之夜》采访时明确表示，很难精确估计AI灭绝人类的概率，但“10%的概率似乎是一个不算离谱的估计”。他特别强调，若认为风险低至1%，“那就太愚蠢了”。
这一判断与Anthropic顶级AI安全研究员雅各布·考克森此前“未来10年内AI有超过10%概率杀死全人类”的观点基本一致。
更令人警觉的是，辛顿透露自己对AI灾难时间表的预期已发生根本性转变：“我以前认为是30到50年，后来缩短到10到20年，现在我觉得可能是10年，甚至更短。”
他指出，人类社会从未面对过一种“很快就可能比我们更聪明”的技术，这使得传统风险评估框架几乎失效。
辛顿提到了多种可能导致灾难的具体路径，从网络攻击到AI研发出致命病毒等。尽管他没有详细解释时间表为何被大幅缩短，但一个不可忽视的背景是：包括Anthropic和OpenAI在内的领先AI公司已投入数十亿美元扩大模型规模，而它们近期发布的产品相比数月前的模型已展现出显著提升。
辛顿的警告并非孤立声音。就在他发表上述言论之前，Anthropic研究员考克森在该公司备受期待的IPO前夕宣布辞职。考克森此前曾在OpenAI工作，他直言这些AI巨头正在“拿我们的生命赌博”。
他在X上写道：“那些开发AI的人真心相信，AI可能在这个十年结束前杀死我们所有人。这不是营销噱头。”考克森还透露，许多高管和资深研究员在媒体上措辞谨慎，但私下表达的是同样的恐惧。
为此，辛顿重申了他的一贯主张：加强全球监管。他指出，尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。“对于防止AI取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。问题在于，他们能及时采取行动吗？”
这一追问，或许正是辛顿所有警告中最紧迫的部分：技术演进的速度已经远远超出了人类制度响应的节奏，留给我们的时间可能比想象中更少。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
