奥特曼最新访谈，炮轰A社反人类

最近我们的 AI 圈访谈劳模奥特曼又参加了一个访谈。

不是那种采访式的一问一答，奥特曼真的在很仔细地思考。他有时候在表达的过程中会陷入一两秒的思考，主持人没有剪掉，而是把这些真实的反应全都一一保留了下来。奥特曼表示 OpenAI 的成功源于敢于做出那些风险很高的决策。这些决策是非常艰难的，但正是有这样的勇气敢于砍掉 Sora 和 Atlas，codex 才取得了今天的成功。

虽然没有指名道姓，但是他每句话都在说 A 社。对于他来说，最重要的就是“人”，他想做的是给所有人赋能的平台。虽然目前没有那么开源，但是在他看来，OpenAI 的目标是把 AI 的能力 Open 给所有人。

01一路走来，OpenAI 在押注“不可能”

回顾 OpenAI 这些年的经历，奥特曼觉得大胆做那些看起来不可能的事情真的很重要。

高风险，高回报。

只有敢于做那些看起来危险的决策，才能拿到“大结果”。

而且奥特曼也表示模型最重要。把模型搞好了、产品之类的其他东西都会随之进步。

David：你是怎么改进产品的？你在产品上会投入多少精力？

Sam：我也希望自己能多花些时间亲自去研究产品，但其实我现在的大部分精力都放在研究和分配算力上。好在公司里有一群非常出色的人在做产品。

对我们来说，最重要的事情还是做出更聪明的模型，并让尽可能多的人能够高效、充分地使用这些模型。只要把这件事做好，我相信其他东西自然会随之而来。

我这个人其实一直倾向于去找这样的问题解决：足够困难、杠杆足够高，而且能够持续推动指数级增长的问题。高风险、高回报。对 OpenAI 来说，这个问题就是模型和算力分配。

我觉得做高风险的押注没有问题。因为你押注的事情一旦成功，能够创造极其巨大的价值，这种风险就是值得承担的。

做 AI 研究真正出色的研究者，都是“不按常规出牌”的。他们往往有一些不被主流认可的判断，会采用别人没想过的新方法，同时还有非常强的行动力。

当然，有些人只是把此前一千个人都在做的想法稍微改了一点点。然后就开始努力说服你，说他正在做一件完全不同的事情。他们觉得“应该做些不一样的事”，于是试着模仿出一种创新。他们只是在所有人都在做的事情外面包了一层薄薄的新包装。

真正不同的人不是为了显得不同才那么做的。他们是真的有不一样的想法，也愿意坚持一个非常不受欢迎的判断。这个判断很可能是错的，但如果是对的，他们会赢得非常彻底。还是那句话，高风险，高回报。……

对于我来说，这个抉择就就是要学会牺牲、学会砍掉一些好想法，集中力量追求真正伟大的事情。不止是我，这可能是每个创业者和每家公司最难学会的一课。比如去年，我们砍掉了 Sora。它真的是个不错的产品，也带来不错的回报，但是它消耗了大量算力。而且和 Codex 相比，它没有那么重要，所以我们最终决定把算力留给 Codex，关掉了 Sora。

我们也砍掉了AI浏览器 Atlas。那也是一个很好的产品，我觉得这就是最好的网页浏览器。但对 OpenAI 来说，继续做 Atlas 没有把人才投入 Codex 那么重要，所以我们果断把 Atlas 也砍了。我们赌对了，这样的高风险最终给了我们 codex 成功的巨大回报。

02从聊天框到统一入口：OpenAI 的产品边界

靠着高风险高回报的决策理念，奥特曼和OpenAI走到了现在。这一路以来的回报和成功是显而易见的。

但是现在的 AI 产品都严重受限于上下文和用户给的提示。所以奥特曼认为，未来的 AI 会是机遇海量的上下文给用户提供主动服务的。当 AI 知道的足够多，你不用提问 AI 也能知道你需要什么。

换句话说，互动的第一个对话框不一定是用户发的。

至于 OpenAI，只是平台。把能力交给每个人，剩下的交给大家去发挥想象力。

David： 你觉得 AI 的未来是什么样的？

Sam：我当然希望 AI 还会一直进化下去，但是对于最新一代模型，我觉得它们现在真的已经相当聪明。

目前真正限制我能从 AI 那里获得多少帮助的，很多时候不是模型能力够不够，而是它掌握了多少与我有关、对我有用的上下文。我希望 AI 尽可能了解我，从而真正帮上我的忙；我也希望它替我完成那些我做不到，或者根本不想亲自做的事情。

我希望拥有一个会不断主动寻找机会来帮助我的 AI Agent。它能看到并理解比我本人更多的上下文，包括那些我没有时间、也没有精力亲自消化的信息。等到我必须做决定时，它能把这些信息都调动起来，给我真正有用的建议。

过去，我们把大量注意力放在提升模型的智力上，这个方向没有错。但在产品层面，我们还没有充分思考另一个问题：如果一个模型掌握的上下文比任何个人都多，它究竟能怎样帮助这个人做出重要决定？

我感觉，一种完全不同的 AI 使用方式很快就会出现。它的核心优势，将来自一个人类几乎无法企及的维度：对海量上下文的理解和调用。

世界上有很多非常聪明的人，但没有人能在几秒钟内读完数万页材料，再准确地把其中的信息用到眼前的问题上。AI 却可以做到。这会成为一种全新的、也非常强大的能力补充。

至于 OpenAI，我希望它不只是一家单纯的产品公司，更是一家平台公司。

我认为，大多数人真正想要的，是一个统一的入口，可以连接属于个人或企业自己的 AGI，帮助他们处理各种事情。与此同时，我们还应该提供 API，让开发者能够在这个平台之上构建任何他们想做的产品。这是 OpenAI 想要提供给世界的平台。……

平台里面是那个面向所有人的产品。今天，当你需要 AI 帮忙时，仍然要主动向它提问。未来，也许应该由 AI 主动给你建议。AI 一开始只是 ChatGPT 那样的聊天机器人，现在已经变成了 codex 这样的编程 Agent；再往后，我认为它会变成一个持续存在、始终陪伴你的 Agent，并连接一整套可以在各种环境中为你工作的 AI。

但我们做到这里就够了。我们不应该亲自进入每一个产品领域，不应该试图和所有客户竞争，更不应该试图吞下整个经济。

03AI 应该造福全人类，而不是像某些其他公司……

虽然没有指名道姓，但是奥特曼几乎把对Anthropic和达里奥的批判写在脸上了。

奥特曼说最害怕两种失控的未来：一个是AI强到管不住、一个是AI被个别公司垄断。

他说“有的公司”就是在以安全为名控制权力，然后施舍一些“治愈疾病”之类的好处。是哪个公司天天说我们的目标是为了治愈癌症来着？不就是Anthropic吗…

人是目的，不是手段。AI 发展的目标永远都应该是造福每一个人。

Sam：我最担心的两种 AI 风险，其实方向是有点相反的。一种是 AI 强大到人类再也管不住它；另一种是能管住，但是权力过度集中，最后由一家公司、一个模型，甚至一个人通过 AI 掌握过大的权力。无论哪种结果我都觉得很吓人。我们真正应该追求的，是让人类自己始终掌握自己的未来，把能力真正交到每个人手里。

我们不能把决定权交给某个 AI 模型，让它去决定全世界的发生的各种事情。这种想法本质上是对人类的不信任。但很可惜，世界上确实有一部分人认为，这是最好的结局。

还有另一种可能：因为不相信普通人，所以就要限制谁能接触这项技术，也要限制他们怎么用。理由是，如果人人都能用，可能会发生很多“可怕的事情”。于是，“安全”就成了把权力集中到少数几家公司手里的理由。普通人不能真正掌握技术，只能被动分到一点技术带来的好处。

说得极端一点，这套逻辑其实是在告诉全世界：我们会治好所有疾病，让各种商品和服务都变得非常便宜；但作为交换，你们要放弃自主权，放弃影响未来的能力，也放弃手中的权力。

就像一个国王在说：“亲爱的农民，我们会赐给你们这些礼物——治愈癌症、物质富足、丰富的娱乐生活等等各种好处。但是作为交换，你们以后就不要再抱怨了，未来的所有决定都由我们来做。相信我们，我们会做仁慈的独裁者。”……这真的非常、非常不好。

这些人还会以“安全”的名义推进这一切，结果就是少数人靠着 AI 掌握巨大的财富和权力，而普通人则过上一种各方面都还不错、但没有多少选择权的生活。

这真的非常反人类。但不知道为什么，居然真有人愿意这样向世界推销未来。

David：你觉得这是为什么？

Sam：恐惧。很多人一想到 AI 风险可能有多严重，就会变得非常紧张。他们越想越害怕，又觉得自己有责任保护整个世界，于是很容易得出这样的结论：“这次的风险和过去都不一样，所以人们应该拿出很多自由来换安全。” 但到“安全”也很容易变成扩张权力的借口。……

当然，未来我们会遇到风险更高、后果更严重的问题。但我们 OpenAI 的做法是：先把产品放进真实世界，从真实用户那里得到反馈，看看它究竟会在哪里出问题，又有哪些担忧其实没有发生。这是做出好产品的方法，也是把产品真正做安全的方法。

David：那你觉得未来应该是什么样的？

Sam：现在，世界上最聪明的人和最聪明的模型，能力大致还在同一个水平。但很快，这种关系就会倒过来。真正麻烦的，是那些还没被注意到的的风险。随着模型越来越强，提前找到这些问题的难度也会越来越高。

所以未来我们不得不做出很多非常艰难的决定：什么时候应该放慢开发；什么时候可以说“好，现在可以让它进入现实世界了”；什么时候又应该再等等……

但是我们不想把它关在少数人手中。当初我们决定上线 ChatGPT 时，很清楚模型并不完美。我们知道它会产生幻觉，也知道它还会出现很多其他问题。

但我们同样知道，社会必须真正接触到这项技术。只有这样，我们才能学会怎样让它变得更安全，也才能把这种能力真正交到人们手里。

我们不能借 AI 把自己的价值观和世界观强加给别人，也不能关在实验室里，自以为可以提前想清楚它会带来的所有影响。那根本不现实，因为社会和模型一定会在互动中一起变化。

来源 | 硬核看板（ID：yinghekb）

作者 | 王芮 ; 编辑 | 虾饺

内容仅代表作者独立观点，不代表早读课立场