福建
刹车，刹车！
马斯克又喊AI要出大事了，而且这回，还不是他一个人喊。
9月12日，Anthropic掌门阿莫代伊发博客，说行业必须放缓模型迭代，得留出时间，把模型跟人类目标对齐，把安全防护做扎实。
马斯克第一时间点头，奥尔特曼跟着附议。
紧接着，过去 24 小时，马斯克一口气连发了4篇AI威胁论的推文，他说：
我见过不少技术的发展，但没有一种像这样的风险这么大。在我看来，AGI的风险远大于核武器。
在转发语中，他说：我长期以来一直在为人工智能敲响警钟。
前段时间，马斯克还给过一个“残忍预测”：
一年到一年半之内，AI写程序、干工程的能力，会到人类难以竞争的水平；到2027年底，所有不涉及动手的数字化工作，AI全能包圆。
翻译成大白话：写代码的、做报表的、跑数据的，机器都能干，大批白领要丢饭碗。
从现在看，马斯克们之所以频频喊话，是因为他们看到一个重大转折点，递归式自我改进的开启。
也就是说，现在AI已经开始参与"造下一代 AI"，也就是所谓的递归式自我改进。
这就可能形成一个正反馈:更强的AI帮助训练更强的AI，下一代AI又进一步加快研发速度。
这样一来，接下来AI能力提升的速度，可能开始超过人类理解、评估和控制这些系统的速度，如果完全不加控制，这种递归自我改进可能会跑到我们前面去。
从这个角度看，马斯克喊“慢一点”，底下压着真实的焦虑，因为这么搞下去，别说白领工作丢了，以后人类这种碳基生物能否生存下去，都不好说。
但也要看到时候马斯克这几个人嘴上喊的痛快，但喊归喊，他们的行动和他的语言，却背道而驰。
证据就在眼皮底下。
马斯克这边呼吁放缓，那边Grok往死里快速迭代。而喊“放缓”喊得最响的Anthropic，自家IPO的日子一天没往后挪，10月中旬就要去推介。
嘴上说不要不要，但被商业逻辑和股价推着走，自己身体很诚实。
所以，一方面呼吁别人AI降低迭代速度，反正占据道德制高点，谁不会？但另一方面自己大干快上，唯恐被别人超过。
其实，他们喊AI降速，还有一本账，压在箱底一般人看不出来——他们怕中国的开源模式，搞得太快。
像Anthropic 前面说了那么多直接，紧接着最后来一大段：不要给中国卖算力，不要给中国卖数据，必须减缓中国 AI 的发展，带来 3-5 年的领先优势。
前几天，Anthropic又通过举报，想让中国政府干预中国科技企业，让中国开源模型慢下来。
所以说到底，这几个哥们说什么“对齐人类目标”，恐怕就是只许州官放火，不许百姓点灯的托辞吧？
说到底，就马斯克等人来说，真心怕AI失控可能是真的，想甩开竞争者特别是中国的竞争者，恐怕也是真的。
所以，他们说他们的，咱们自己还得加紧努力，毕竟，如果咱们AI被他们甩远，那恐怕和当年咱们拿着大刀长矛打人家的坚船利炮的差距，更可怕！
说到底，他们要对齐人类目标，但这个目标里，得充分考虑中国人的利益，不是吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
