AI的四重减速带与人类自我吓阻的智慧

人工智能的四重减速带与人的自我吓阻力

人工智能特别是前沿人工智能的发展，正在把人类带入一个技术加速不断突破既有边界的时代。围绕人工智能是否应当减速，目前的讨论往往集中于超级智能是否可能失控，以及是否需要暂停前沿模型研发。但如果把问题仅仅理解为人工智能发展的快慢，实际上容易遮蔽人工智能冲击的不同性质。人工智能对于人的认知、科学知识体系、既有技术社会系统以及人类生存本身，所产生的影响并不处于同一个层次，因而不可能采用同一种刹车方式。与其笼统地讨论人工智能究竟应该加速还是减速，不如针对不同类型的冲击设置不同性质的减速带。

一、个人认知维度，接受无可奈何花落去的现实

人工智能对人的第一重冲击，是对人的认知方式的冲击。生成式人工智能使认知外包获得了新的形式。过去，人们主要将记忆、计算和信息检索交给计算机和互联网，而今天的大模型进一步介入理解、分析、写作、论证乃至判断的过程。由此产生的认知依赖、认知外包、认知病毒以及认知免疫等问题，实际上都在追问当越来越多的认知活动可以由机器完成时，人的认知自主性如何维持。

这一问题对于人文学者和数字批判理论家尤其具有吸引力，因为它触及的不只是效率，而是人的存在方式。人工智能越是能够以极低的成本提供现成的答案，人越可能逐渐失去经历困惑、寻找答案、形成判断的过程。然而，如果因此试图通过限制人工智能来恢复一种未经技术中介的纯认知，同样是不现实的。人的认知从来就是技术化的。文字、书籍、地图、计算器、摄影、搜索引擎无不改变了人的认知结构。

一个世纪以前，金石家、书画家面对照相术和机械复制技术时所遭遇的处境，与今天一些知识工作者面对生成式人工智能的感受是一回事。但“青山遮不住，毕竟东流去”，或者说“有了大模型，无需钱钟书”，因为技术从不会因其颠覆人的既有能力而减速。虽然不少人提出各种保留必要的认知摩擦的减速设计，不过是不同程度的口是心非，很难言行一致。

在此维度，建议不必徒劳地设计减速带，而寄希望于沉湎后的清醒。在让人经历一场认知劫难之后，人们才可能出现新的启蒙。这场劫难不太可能是1500年，估计这场宿醉可能长达15年。

二、科学认知维度，AI正在成为认识和发现的主体

人工智能正在对科学认知产生越来越深刻的冲击。如近期人工智能对数学、理论物理和生物学的颠覆性冲击，以及人工智能发现新的基因编辑方法等。这方面真正值得关注的问题，不是机器马上会成为自动化的机器人科学家，而是人工智能正在成为科学发现的认识主体。其结果不仅是大大提升现有科学研究的效率，更可能是以人类科学家意想不到的方式揭示世界的奥秘。借助这些发现，人类可以制造出一个以往完全不可能想到的可能世界，但也有可能带来毁灭性的后果。

即便不讨论风险的一面，这种变化本身也会带来颠覆性的社会冲击。比如，如果人工智能赋能生命科学使所有疾病都可以治疗，乃至使每个人都可以长生不老；如果父母完全可以按照自己的意愿选择婴儿的智商、情商、外貌和体格，那么人类社会关于生命、家庭、平等和人的自然性的许多基本观念都将面临重新思考。人工智能赋能生化武器，同样属于这一方面。

这里的机遇和风险都非常巨大，其关键不仅在于可能导致的不可逆的危害，更在于人们对其认识机理、过程、结果和后果的认识不足和无知。未来一个值得高度重视的问题是，人机之间的知识鸿沟可能呈指数拉大。人工智能发现和掌握的东西越来越多，而人类对人工智能为什么能够发现、如何发现以及这些发现意味着什么，却未必能够同步理解。

更要命的是，未来的科学研究及其结果可能更多地是让机器易于操作和理解的。科学家要想不沦为实验室里的NPC,还得求助于AI。因此，当前科学家最需要的智能助手是用于理解知识的助手，即主要帮助他们理解机器的科学发现，并成为与机器人科学家实时沟通的中介。

对于这一维度，因为其潜在益处和可能危害同样非常明显，很难提倡简单地让科学发展减速。更现实的问题，是尽可能减少人工智能发展与治理之间的速度差。在人工智能加速赋能科学研究和科学认知的同时，必须加快伦理、法律、监管和政策的应对，使治理能力能够尽可能跟上科学发现能力的增长。为此需要应对的，是在人类的硬认识能力可能远远落后于人工智能发现能力的情况下，如何建立新的认识、解释、评估和治理机制，使人类能够对人工智能打开的可能世界保持基本的理解能力和控制能力。这就需要想象力和智慧，类似于找个潘安跟潘多拉聊天，让她忘了打开魔盒。当然，正经些的说法是必须给前沿人工智能或超级智能这一龙泉宝剑配上剑鞘。

三、技术社会系统：避免智能重构造成系统性失衡

人工智能的第三重冲击，是对已经形成的技术社会系统的冲击，这个维度可能是目前最容易被低估的。现在人们最关心的是大模型和智能体的应用落地。而一旦普及应用，就必须考虑它对既有技术社会系统激情运行逻辑的冲击，特别是其对互联网平台的流量、入口、利益分配与责任结构的颠覆性影响。

2026年9月，亚马逊阻止Meta的Muse智能体访问其平台，表面是访问权限、隐私与安全问题，深层则触及现实的核心利益之争。如果消费者不再自己浏览网页，而由AI智能体替其搜索、比较、购买，那么过去围绕人的注意力建立的广告、搜索、推荐与平台商业模式将如何存续？而亚马逊自身也已把购物助手、推荐与广告整合进agentic shopping体系。

这意味着AI可能完成从应用到入口的跃迁。以往的路径是人通过搜索引擎、网站即APP寻求商品服务。将来的路径则可能沿着人、AI智能体流向整个互联网。一旦如此，搜索引擎、APP、网站、广告、内容平台乃至互联网的组织方式都将重构。AI正在消灭互联网的说法虽夸张，却昭示着信息基础设施本身可能正在从服务于人转向服务于智能体。由此，难免引发网络安全、身份认证、责任归属、流量分配、知识产权与平台竞争等新问题。

因此，这一维度需要既得利益相关者构建起系统缓冲带，给既有产业与平台留下转型时间。当下，必须设计各种减速带和缓冲机制，包括防止AI入口形成新垄断、保持用户选择权与服务可替代性、建立AI智能体身份与权限标准、明确智能体行为的责任归属、对关键基础设施保留人工控制与退出机制。虽然可以天天骂流量，什么都让它背锅，但真正务实的做法是，要防止流量结构剧变造成系统震荡。

即便是要拥抱美人，也要根据对方是贵妃还是飞燕调整姿势。细狗抱孙二娘上花轿的冲动在念头上很美，落地未必从容。AI是个外星塞壬 (Siren)，不能稀里糊涂地受她的歌声诱惑而触礁。不能因为AI能够更快，就要求整个社会系统以同样速度重构。人工智能时代的航海者要用智慧，各种做球和打假球都可以有，为技术社会系统争取必要的缓冲时间。

这一维度最需要的不是简单地阻止技术进入社会，而是避免社会系统在没有充分准备的情况下被迫完成过快重构。不同利益相关者需要获得必要的调整时间，既有平台、企业、劳动者和消费者之间的利益关系需要重新协调，关键系统还需要保留人工干预、退出和恢复机制。因此，这里的“减速带”实际上是一种社会系统的缓冲机制，其目的不是阻止变化，而是防止变化的速度超过社会承受和调整的能力。

四、超级智能：亟需一套自己可以吓唬自己的叙事

当人工智能的能力进一步发展，以至于在某些重要领域超过人类整体的理解、预测和控制能力时，人类是否还能够有效地驾驭超级智能，会不会陷入生存风险。

对于超级智能的风险治理，稍加思索很容易讲出一套看似有理的策略。对此，我就想到，首先需要解决的其实不是超级智能究竟什么时候出现，而是如何把一个高度抽象的概念转化为可观察和测量的能力指标，形成具有治理意义的能力基准。例如，当模型在自主科学研究、高风险生物技术、网络攻击、AI研发自动化、自我复制、资源获取以及规避安全措施等方面达到某些水平时，就相应提高安全评估和监管要求。能力越接近可能产生灾难性后果的区间，治理措施就越需要从一般性的安全要求转向严格的部署限制、持续监测和必要的暂停机制。

还可以进一步指出，人工智能究竟是不是超级智能，可能在相当长时间内存在争议。但某种能力是否已经达到危险阈值，则可以通过测试、评估和红队演练不断接近答案。由此还需要建立不同国家、企业和科研机构之间的能力评估标准和风险通报机制。因为一旦真正涉及可能影响人类共同安全的能力，其治理就不再只是某一家企业或者某一个国家的事情。

但真实世界中的问题是，在人类仍然能够控制技术的时候，能否提前确定那些一旦越过就不应轻易继续加速的边界。说到这里，不难发现这一步步为营层层设防的减速带设计方案本身其实很空洞！它们不过是由人类的语言及其背后的逻辑推演出来的大话、空话和套话。

假设人工智能真的会给人类带来生存风险，除了可观察和测量的能力指标之类的定性工具之外，还需要富有智慧和阻吓力的叙事，就像核冬天理论这一科学性马马虎虎的叙事一样。这是由人的本性所决定的，以人为本的人工智能治理不可能用说服方式实现，而只能用自己吓唬自己的的trick才能让人审慎前行。这里涉及的不是科学而是人类面对不确定性风险的必要智慧。这是无需诉诸知识的人类伟大的生存智慧：人们必须有一种可以自己吓唬自己的叙事，同时又不执着于此，就像老和尚告诉小和尚女人是老虎又说早放下了。

而几大前沿大模型公司最近的生存风险与减速叙事还不具备这种可以真正地自己吓唬自己的功能，只是不成熟的童子军吹口哨壮胆的做法或婴儿咬手指的安慰计。面对超级智能这一巨人，人类被集体打回到孩童年代，而使孩童能规避各种风险不测最终长大的关键，在于社会、家庭和其自身能共同编织一个自己可以吓唬自己的故事或神话。而这个维度的减速带，无疑也有助于缓解前面三个维度的风险。