江苏
关键信息：
- 盖茨警告人工智能滥用风险，称专家防范措施仍远远不够
- 他认为未来一年最可能出问题的是网络攻击，而非失控本身
- 盖茨呼吁建立类似飞机汽车药品的保障措施，找到中间道路
- 他称若缺乏监控和记录，坏人可借最新模型制造严重后果
- Anthropic称今年已阻止多起利用其人工智能构建生物武器图谋
比尔·盖茨对人工智能的未来提出严厉警告。这位科技巨头指出，专家们在防止这项技术被滥用方面还有很大不足。
在周日接受美国有线电视新闻网采访时，盖茨谈到对人工智能的担忧。他认为，在保护这项迅速发展的技术上，人类尚未找到一条“中间道路”。
这位微软的联合创始人在社交平台X上写道：“就像我们监管飞机、汽车和药品一样，我们需要建立保障措施，以释放人工智能的巨大潜力，同时降低其风险。”
盖茨补充道：“这些措施无法消除所有风险，但可以防止不法分子滥用。我们距离理想状态还相差甚远，这值得我们更多关注。”
在采访中，主持人杰克·塔珀提到盖茨曾警告，人工智能可能让“不法分子更容易开发致命生物武器”。
塔珀继续问盖茨，生物恐怖袭击的风险是否已经是自然大流行风险的50倍，以及各国领导人是否已采取足够措施来防范这种情况。
盖茨回答：“没有，我们做得不够。未来一年中，最可能出现问题的领域是网络攻击。”
他还指出：“目前真正的危险并不是人工智能失控。尽管我们需要解决这个问题，但从可能产生重大影响的时间来看，那还是几年的事情。”
盖茨强调：“真正可怕的是坏人使用人工智能，尤其是在他们可以绕过所有保障措施时。当坏人、缺乏保障措施和最新模型结合在一起时，未来一年中，我们将看到许多负面意外。”
当塔珀追问盖茨是否陷入了“末日论”时，盖茨回应道，所有负责任的人工智能领域领导者，包括萨姆·奥尔特曼和达里奥·阿莫代，都在向全世界发出警告：“这非常令人担忧。”
盖茨进一步解释，尽管有些担忧被推向了更戏剧化的情景，但“与汽车、飞机或药物相比，人工智能更危险”。
他说：“如果我们无法维持控制，将面临严峻的可能性。我确实认为，这个行业正在履行职责，发出警报。”
不过，他也指出：“如果我们足够谨慎，就能将这些风险降到最低。也许这一点没有被充分传达，尤其因为政府有时会走向两个极端：要么没有任何保障措施，要么彻底停止。”
他补充道：“关键是找到那条中间道路，就像我们对待飞机、汽车和药品一样。我们现在还不够成熟，但我相信这条中间道路是存在的。”
盖茨的警告与近期多位人工智能专家和行业领袖的类似提醒一致。随着这项技术不断突破预期，相关担忧也在增加。
在此前的一篇文章中，盖茨表示，随着人工智能以“失控”的速度发展，人类已越过了预警线。
他说：“人工智能要么成为有史以来最伟大的平衡器，要么成为最糟糕的不公正来源。即便在最理想的情况下，向这个新的人工智能时代过渡，也将是人类历史上最动荡的时期之一。”
几天前，盖茨在美国全国广播公司节目中呼吁政府加强对这项新兴技术的监管，警告其可能导致“10亿人死亡”。
盖茨对记者克里斯汀·韦尔克表示：“人工智能当然强大到能引发一些事件，导致10亿人死亡。”他补充说：“即便达到100%的毁灭仍然困难，但没有任何武器能像怀有恶意的人使用最新人工智能工具那样强大。”
韦尔克问及“什么能阻止因人工智能而发生的悲剧”时，盖茨提出了一些解决思路。
他警告，人工智能可能让区分开发挽救生命的药物和制造生物武器的研究者变得越来越困难。
盖茨对韦尔克说：“我希望区分善意和恶意能更容易一些。比如，‘我想为某种疾病设计一种新药’，与‘我想设计一种生物恐怖主义工具’之间，本应更容易区分。”
他还表示，潜在风险意味着必须对先进人工智能系统实施严格监管，并呼吁美国在建立保障措施方面发挥带头作用。他说：“正因为这两者如此接近，我们确实需要监控任何复杂模型，并准确记录其具体用途。”
盖茨表示，中国也会采取类似措施，但他强调，应由美国为行业建立明确标准。他说：“行业方面会指出，这完全可行，不会显著拖慢发展。”
他还区分了“设置保障措施”和“是否应放慢人工智能发展速度”这两场不同的讨论。
他说：“如果不要求每一个人工智能系统都具备这些保障和监测能力，那是完全不负责任的。”随后补充说，问题在于“你现在做不做”。
本月早些时候，唐纳德·特朗普在被问及人工智能进步是否会意味着人类终结时，否认了这种说法，称那是“不会发生的事”。
特朗普在爱尔兰杜恩贝格出席爱尔兰公开赛期间，在自己的高尔夫球场对记者说：“我们在人工智能方面领先中国。我们是世界上技术最先进的国家，我希望保持这种状态，因为谁赢得人工智能，谁就赢了。”
美国国会众议院共和党籍议长迈克·约翰逊也谈到了这一问题。他在9月早些时候接受美国有线电视新闻网采访时说：“我们不能对此实施暂停令，因为中国会超过我们。”
不过，民主党方面似乎更倾向于监管这些新兴技术。《纽约时报》报道，贝拉克·奥巴马近日在一场私人聚会上谈到了这一问题。
据该报报道，这位前总统在本月的一场活动上表示：“这件事正在私人力量手中快速推进，如果我们不能控制住它，我认为它可能会很危险。”奥巴马还敦促民主党领袖哈基姆·杰弗里斯采取行动。奥巴马表示，杰弗里斯将在11月选举后成为下一任众议院议长。
本月早些时候，人工智能公司Anthropic研究员雅各布·考克森突然辞职，并指责该公司及其竞争对手OpenAI在应对这项技术潜在危险方面做得不够。
考克森警告说，该领域研究人员认为，人工智能有可能在本十年结束前“杀死所有人类”。
几天后，Anthropic发布的一份报告称，该公司今年已阻止多起利用其人工智能构建生物武器的潜在图谋。
根据《纽约时报》获得的这份人工智能滥用报告，Anthropic认定，一些科学家曾利用其平台开展可能被用于开发生物武器的研究。
报告称，Anthropic无法判断这些研究“究竟服务于合法目的还是邪恶目的”。该公司表示，合理的生物学研究可能带来疫苗等科学突破，但出于谨慎考虑，公司仍选择从严处理，因为同样的研究也可能被用于制造危险病原体。
来源：Bill Gates sounds the alarm over AI's grim path ahead if it gets in the wrong hands: 'We're not doing enough'
文章仅供交流学习，不代表本号观点
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
