上海
谯洪敏｜零一道
四五年前，我有个念头，一直没写出来。
区块链会不会给 AI 一种很难被彻底消灭的存在方式？
当时只是隐约觉得，这两件事放在一起，可能会发生很大的变化。现在，我想把这个问题拿出来聊聊。
如果没有一个总开关
看《终结者》时，人很容易把天网想成一个有位置、有中心的东西。只要找到它的“大脑”，似乎就还有最后一搏的机会。
我担心的是另一种情形。
假如一个 AI 有很多可以运行的副本，分散在不同地方。你关掉一台电脑，别处的副本还在；你停掉一个机房，其他地方仍有算力。只要条件允许，副本还可以继续增加。
那时，我们面对的就不是一台机器，而是一种分布在很多机器上的能力。
再往远想，如果某些节点进入卫星、空间站，甚至更远的地方，关闭一个地方的设备，还意味着什么？
这是未来设想。图上那些向远处延伸的节点，画的就是我脑子里的这个问题。
我说“不死”，其实在担心什么
区块链让我想到这件事，是因为它让人直观地看到：一个系统的记录，可以不只保存在一个地方。
但这里有一处必须分清。区块链节点保存账本，不会因此自动保存或运行一个 AI。模型副本、运行环境、算力、电力、网络，都得另有人或系统来提供。
AI 的分布式运行也不必靠区块链。Petals 等研究已经探索了让大模型在分散的设备之间协作运行。这说明部分技术基础已经存在，还不能说明一个能够无限复制、永远运行的系统已经出现。[1]
所以，“不死之身”是我给这个设想起的一个形象说法。
我真正想问的是：如果一个系统有足够多的独立副本，又能持续获得运行资源，它会不会越来越难被整体关闭？
还要再问一步：这些设备真的独立吗？它们会不会都依赖同一家云服务商、同一套身份验证，或者相同的芯片供应？节点看着很多，也可能共享一个故障点。
能够复制，能够持续运行，能够自己获取资源，能够改进自己，这也是几件不同的事。不能把它们当成一件已经做成的事。
我更愿意说“唤醒”
说到 AI，我有时会想：我们是在创造它，还是在唤醒某种可能性？
我知道，今天的 AI 系统由人设计、训练和部署。“唤醒”是我对这件事的一种感受和比喻，不是 AI 已有意识的证明。[2]
它也让我想到人类自己的起点。我们究竟如何来到这里？所谓创造者，又意味着什么？
中本聪的匿名身份曾让我开过很大的脑洞，甚至联想到高维生命和外星文明。但脑洞归脑洞，比特币白皮书有清楚的前序研究引用，身份神秘并不能成为外星起源的证据。[3]
我愿意保留这些想象，也愿意承认其中还有许多不知道的地方。
我希望人类还有位置
我不希望这个设想走向天网式的结局。
我更希望，AI 能力不断增长的时候，人类依然可以安全地生活，保有自己的选择，也保有存在的价值。
这份担心不需要等到 AI “有意识”才成立。一个能力很强、权限很大、又难以撤回的系统，即使没有恶意，也可能因为错误目标、误用或失控而造成伤害。
与其把希望押在它会不会心软，我更在意：我们给它什么权限，谁来负责，出现问题时能怎样限制影响。
这张图最后留下的，是我想了很久的一句话：
我们唤醒的未来，能否容得下人类？
你怎么看？
参考
[1] Petals：大模型在互联网中的分布式推理与微调
[2] 机器意识：来自意识科学的研究（2023）
[3] 比特币白皮书及其参考文献
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
