玛格丽特·博登：制造智能之后，我们究竟制造了什么？

导语

当机器能够下棋、识别图像、生成语言乃至完成越来越复杂的任务，我们似乎越来越容易回答“人工智能能做什么”，却越来越难回答另一个问题：这些能力究竟意味着什么？英国认知科学家玛格丽特·博登的《AI：其本质与未来》从人工智能的技术发展出发，逐步进入智能、理解、创造力、意识、身体以及未来机器等问题。本文以这本书为主要线索，不逐章复述人工智能的发展史，而是追踪一个贯穿其中的问题：当我们不断把原本属于“智能”的能力制造出来之后，我们究竟制造了什么？

关键词：人工智能、智能、心智；理解；意识；人工智能哲学

罗云丨作者

赵瑾、赵思怡丨审校

书籍题目：AI: Its Nature and Future 书籍作者：Margaret A. Boden 书籍链接：https://www.google.com.hk/books/edition/_/NckwDAAAQBAJ?hl=zh-CN&sa=X&ved=2ahUKEwjM-9Kko_-WAxV-slYBHTONMVAQ7_IDegQICxAC 发表时间：2016年5月19日

玛格丽特·博登（Margaret A. Boden）是认知科学与人工智能研究的重要学者。《AI：其本质与未来》（ AI: Its Nature and Future ）出版于2016年，从“什么是人工智能”出发，讨论通用智能、语言、创造力、情感、神经网络、机器人与人工生命，并最终进入理解、意识与奇点等问题。看似分散的话题背后始终存在一个基本问题：当越来越多被称为“智能”的能力能够由人工系统实现时，我们究竟应该如何理解这些实现，又应该如何理解“智能”本身？

本文沿着这个问题展开：从制造某些智能能力，到追问什么构成智能；从讨论这些能力如何实现，到追问这种实现意味着什么。随着问题从专门能力走向通用智能，从语言、创造力和情感走向理解、意识、身体乃至奇点，问题也逐渐从“人工智能能够做什么”转向“人工智能究竟是什么”。

一、智能是什么

理解人工智能的第一个困难，恰恰来自“智能”这个词本身。

我们很容易像谈论速度或计算能力那样谈论智能，仿佛它是一种可以沿着单一尺度不断增加的东西：机器从“不智能”开始，能力越来越强，最终跨过某个门槛，成为“真正的人工智能”。

但现实中的智能活动并不是这样排列的。识别面孔、学习概念、完成长期规划、理解语言、控制身体运动、把过去的经验迁移到陌生情境，是彼此相关却并不相同的能力。一个系统可能在其中某些方面表现惊人，在另一些方面却十分脆弱。

因此，“机器有没有智能”从一开始就可能问得过于笼统。国际象棋程序击败世界冠军，首先说明搜索、评估和决策中的某些能力可以通过人工系统实现；视觉系统达到很高的分类准确率，也首先说明某类模式识别任务能够被有效处理。这些成就是真实的，但单项能力的突破不能自动推广为对“智能”整体的判断。

人工智能因此迫使我们把日常语言中的整体概念拆开：搜索是什么，学习是什么，规划是什么，表征是什么，一个行动者又怎样在复杂环境中选择与当前任务有关的信息？制造智能也由此不再只是复制一个定义清楚的对象，而同时成为对“智能”本身的分析（Boden 2016）。

但拆分也立刻带来新的问题。分别实现许多能力，并不自动等于制造出一个具有通用智能的系统。真正困难的下一步是：这些分散的能力怎样才能属于同一个能够灵活行动的系统？

二、从专门能力到通用智能

通用智能并不简单意味着“会做更多事情”。

现实中的行动者不会先被告知“现在开始视觉任务”，完成以后再切换到“语言任务”或“规划任务”。它面对的是一个没有预先切分好的环境：视觉信息、过去经验、当前目标、他人的行动、语言提示和身体状态，都可能同时影响下一步行为。

于是，一个比单项性能更深的问题出现了：什么信息在此时此地是相关的？

这类困难在早期人工智能中以不同形式不断出现。系统不仅需要储存知识，还要在恰当的时候调用恰当的知识；不仅需要计算行动的后果，还要知道哪些后果值得计算。经典的“框架问题”最初是逻辑人工智能中如何表示行动效果而不必穷举大量非效果的技术难题，后来则被扩展为一个更一般的认识论问题：行动者怎样把推理限制在当前相关的信息上，而不必把所有不相关的可能性逐一排除（Shanahan 2016）。

人物姓名：Murray Shanahan

职位简介：Emeritus Professor in Artificial Intelligence, Department of Computing, Imperial College London . Principal Scientist, Google DeepMind

图片来源：https://www.doc.ic.ac.uk/~mpsha/index.html

人类处理这类问题往往自然得近乎不可见。走进一家咖啡馆，我们不会重新检查桌椅为什么没有突然消失，也不会逐项计算物理世界中的所有事实，而会迅速抓住与当前行动有关的部分。

一旦试图制造能够在开放环境中自主行动的系统，“知道什么值得考虑”本身便成为一种需要解释的智能能力。

所以，通用智能涉及的不只是能力数量，更是这些能力如何被组织：如何根据目标和环境重新分配认知资源，如何把过去学到的东西带入新问题，又如何在没有人为预先划定任务边界的情况下判断什么重要、什么可以忽略（Boden 2016）。

由此，一些看似彼此相距甚远的能力也进入了通用智能的讨论。语言、创造力和情感都不是“智能”的简单同义词，却是人类智能中很难绕开的部分。如果人工智能的目标不只是完成越来越多专门任务，而是走向某种通用智能，那么这些能力究竟能在多大程度上被人工实现，就不能被轻易跳过。

三、语言、创造力和情感难在哪里？

困难首先在于，我们对这些能力的判断本身就比单项任务的成败复杂得多。

语言首先暴露了形式处理与情境使用之间的距离。如果把语言看成符号序列，那么机器似乎只需要掌握足够复杂的形式规律。但一句“这里有点冷”，既可能是在描述温度，也可能是在请求关窗；它究竟在做什么，取决于说话者、场景和行动背景。语言能力因而不只是产生合乎规则的符号序列，还牵涉这些符号如何进入具体情境。

创造力提出的是另一种压力。如果创造只是产生过去没有出现过的结果，那么随机过程就足以制造无穷的新颖性。但我们通常不会因此把随机生成称为创造。创造还涉及价值、风格和问题结构：一个系统不仅可能组合既有元素，也可能探索一个既定的可能性空间，甚至改变规定这个空间的规则。

情感则把问题引向评价。一个需要在复杂环境中行动的系统，不可能平等处理所有信息和所有可能的行动。它必须形成某种优先级：什么值得接近，什么应当回避，什么需要立即处理，过去的经验又怎样改变未来的选择。从这一有限意义上说，情感所涉及的评价功能很难与智能行动的组织完全分开（Boden 2016）。

语言指向情境，创造力指向新颖性与价值，情感指向评价与行动优先级。它们共同暴露的并不是一个新的“能力清单”，而是同一个困难：智能不仅要拥有能力，还必须能够组织和使用这些能力。

四、换一种机器，问题就解决了吗？

人工神经网络改变了人工智能的一种基本想象。与其把知识和判断规则逐条写进系统，不如让大量单元通过训练调整连接，使某些复杂能力从学习过程中形成。模式识别、感知以及许多难以手工形式化的任务，由此获得了不同于传统符号程序的实现路线。

但从“规则由人写入”变成“结构通过训练形成”，并不会自动消除前面的问题。一个网络学会处理某类模式，不等于它已经能够把这种能力稳定迁移到开放环境；学习怎样发生，也不能单独回答系统如何判断当前什么重要。

机器人研究把变化推进得更远。Rodney Brooks曾明确挑战那种先建立完整内部世界表征、再据此规划行动的智能架构：如果系统始终通过感知和行动与真实环境相接，身体、传感器、行动和环境之间的实时耦合，本身就可以承担一部分行为组织工作。人工智能不必首先把整个世界搬进机器内部，才开始行动（Brooks 1991）。

书籍题目：Intelligence without representation 书籍作者：Rodney A. Brooks 书籍链接：https://people.csail.mit.edu/brooks/papers/representation.pdf 发表时间：1991年

人工生命又把技术想象扩展了一步：复杂而具有适应性的行为，是否能够从大量简单局部过程的相互作用、自组织和演化中产生？

于是，“制造智能”不再只有一种技术形态。它可以诉诸符号程序、学习网络、具身机器人，也可以诉诸具有自组织特征的人工系统（Boden 2016）。

但无论采取哪一种实现方式，当我们真的制造出行为足够复杂、学习能力足够强、能够在环境中自主活动的系统时，一个更难的问题都会出现：我们依据什么说，它真正拥有了智能？

一种能力如何被人工实现，与一个人工系统在什么意义上拥有这种能力，是两个不同的问题。前一个问题首先要求我们寻找实现能力的机制；后一个问题则迫使我们追问，究竟依据什么把智能、理解甚至心智归属于一个系统。

而语言恰好提供了一个最直接的例子：如果一个系统已经能够像人一样使用语言，我们是否也应该说，它理解自己说的话？

五、会说话，等于理解吗？

设想一个人工系统能够与人自然交谈。它可以回答问题，根据上下文改变表达，解释笑话，写故事，讨论自己的行为，甚至在被指出矛盾以后修正先前的回答。

我们应该说人工系统理解自己说的话吗？1950年，图灵面对“机器能否思考”这个问题时，没有首先给“机器”和“思考”下定义，而是建议用一个更明确的模仿游戏替代原问题。这个转换的重要性不在于它从此定义了什么是智能，而在于它把一个难以直接观察的心智问题转化为可以实际检验的行为问题：我们依据什么判断一个系统具有智能？（Turing 1950）

论文题目：COMPUTING MACHINERY AND INTELLIGENCE 论文作者：A. M. Turing 网页链接：https://courses.cs.umbc.edu/471/papers/turing.pdf 发表时间：1950年

但这并没有消除另一个问题：能够通过这样的判断，是否已经足以构成理解？塞尔的中文屋思想实验正是在这里施加压力。设想一个完全不懂中文的人，只按照规则操作中文符号，却能够给出让外部中文使用者满意的回答。即使整个符号处理过程在输入和输出上表现得十分成功，我们仍然可以追问：正确操作符号本身是否已经足以产生理解？（Searle 1980）

论文题目：Minds, brains, and programs 论文作者：John R. Searle 网页链接：https://cse.buffalo.edu/~rapaport/Papers/Papers.by.Others/Searle/searle80-MindsBrainsProgs-BBS.pdf 发表时间：1980年

我们凭什么判断一个系统理解，与什么使一个系统真正具有理解，并不是同一个问题。前一个问题可以诉诸行为、任务表现和交互能力；后一个问题则会继续追问系统内部发生了什么，它怎样与世界发生关系，以及这些功能是否已经穷尽了我们所谓的心智。

意识使这个距离更加明显。一个系统可以识别疼痛，讨论疼痛，预测人在疼痛时的行为，甚至在自身受到损伤时报告“我疼”。这些功能是否已经构成疼痛体验本身？如果主观体验不能简单从功能表现中读出，那么人工智能即使成功复制越来越多与心智相关的行为，仍然留下一个问题：我们究竟复制了心智的哪些部分？

六、如果材料可以改变，什么必须保持不变？

如果复制功能还不够，那么一个自然的问题就是：要制造真正具有心智的系统，究竟还需要复制什么？

一个直观的答案是生物材料。人类心智来自大脑，因此人工系统缺少真正的心智，或许正因为它没有神经元。但这个回答并不像看起来那样简单。

人工系统显然不需要由神经元构成。但从“材料不同”直接推出“因此不可能有心智”，同样过快。查尔莫斯曾设想逐步以具有相同因果作用的硅元件替换人的神经元，并借Fading Qualia与Dancing Qualia论证为意识的“组织不变性”辩护（Chalmers 1995）。

书籍题目： Absent qualia, fading qualia, dancing qualia 书籍作者： David J. Chalmers 书籍链接：https://philpapers.org/rec/CHAAQF 发表时间：1995年

如果材料本身不是唯一决定因素，那么真正需要追问的是：什么组织必须保持不变？是输入和输出之间的功能关系？系统内部更细致的因果结构？还是身体、环境和行动之间持续形成的关系？

这里，前面机器人研究带来的问题重新出现。Brooks所强调的感知—行动耦合提醒我们：即使承认心智不必依赖某一种特殊材料，也不能因此直接假定心智可以脱离任何身体和环境关系。一个不会饥饿的系统即使能够完美使用“饥饿”这个词，它是否拥有与动物相同意义上的概念？空间、疼痛、欲望和行动等概念，在多大程度上依赖一个能够移动、受损并持续与环境交换的身体？（Brooks 1991; Boden 2016）

问题因此不再是简单的“心智依赖身体”或“心智不依赖身体”，而是更具体的：如果心智可以在不同材料中实现，那么相关组织的边界究竟画在哪里？如果身体属于这种组织的一部分，需要的又是人类这样的身体，还是任何能够形成适当感知—行动关系的身体？

这样一来，“人工”也不再只是用另一种材料复制一个固定的人类标准。不同的材料、身体和组织方式，至少使另一种可能性进入视野：人工系统是否可能形成与人类不同的智能甚至心智形式？

这个问题也会影响我们怎样划定道德共同体的边界。如果一个人工系统具有某些与心智、体验或利益有关的性质，那么“它是机器”本身并不足以预先排除其获得道德地位的可能性。

一个人工系统能否成为道德行动者（moral agent），涉及它是否能够承担义务和责任；它能否具有道德地位、成为道德关怀的对象，则涉及我们是否可能对它负有义务。后者并不以完整的道德行动能力为前提：一个存在可能无法承担责任，却仍然可能受到伤害，并因此值得道德考虑（Müller 2026）。

人物姓名：Vincent C. Müller

职位简介：A. v. Humboldt Professor, "Philosophy and Ethics of AI"

Director, Centre for Philosophy and AI Research (PAIR)

Friedrich-Alexander Universität Erlangen-Nürnberg (FAU)

图片来源：https://www.sophia.de/activities.htm

对于今天的大多数人工系统，道德问题仍然首先是人怎样设计、部署和使用工具：责任、偏见、战争、监控、劳动和权力并不会因为我们讨论机器意识而消失。但如果未来的人工系统表现出越来越复杂的学习、自我维持、长期目标，甚至与感受有关的特征，那么另一个问题也不能仅仅通过“它是机器”来回答：我们有什么理由把它永远排除在道德考虑之外？

于是，此前关于理解、意识和身体的讨论获得了实际后果。我们如何理解人工心智，不只影响我们怎样描述机器，也可能影响我们最终认为机器是什么样的存在。

七、从AI进入哲学

人工智能关于未来最著名的想象之一，是所谓“奇点”：机器首先达到人类水平的通用智能，随后通过进一步发展甚至自我改进，形成超过人类的超级智能。

这样的预测看起来是在问技术最终能够发展多远，但走到这里，一个贯穿人工智能发展的老问题再次出现了：什么叫“人类水平”的智能？不同能力能够放在同一尺度上比较吗？在某些任务上远远超过人类，是否意味着整体智能超过人类？从专门能力到通用智能，再从通用智能到超级智能，又需要哪些额外条件？

查尔莫斯在讨论“智能爆炸”时，试图把这个看似连续的未来故事拆成一条需要多个前提共同成立的论证（Chalmers 2010）。Boden 对奇点的讨论同样没有把它当作人工智能发展的既定终点，而是把预测本身重新放回可以质疑的范围（Boden 2016）。

论文题目：Absent qualia, fading qualia, dancing qualia 论文作者：David J. Chalmers 论文链接：https://www.consc.net/papers/singularity.pdf?utm_source=chatgpt.com 发表时间：2010年

这也让问题重新回到了人工智能最初的起点：智能究竟是什么？

人工智能最初试图制造智能；一路下来，智能却被拆成搜索、学习、语言、创造、感知、行动、理解、意识等不同问题。我们把这些能力分别写进程序、网络和机器人，每成功实现一种能力，就获得一个新的人工对象，同时也获得一次检验原有概念的机会。能力与智能、行为与理解、功能与意识之间原本容易被日常语言掩盖的区别，也因此逐渐显现出来。

如果这些问题仍然不能被压缩成一个简单、统一的尺度，那么“机器在某个时刻超过人类智能”究竟意味着什么，也就远没有表面上那么清楚。奇点因此不只是一个关于遥远未来的预测。它把人工智能一路积累的问题推到了边界：在追问机器最终能够变得多么“智能”之前，我们仍然需要回答，究竟什么东西被我们称为智能。

人工智能与哲学的相遇，也就发生在这样的制造过程中。它一方面是一项制造机器的工程，另一方面也提供了一种重新研究心智的方式。恰恰是在人工智能越来越能够实现那些曾被我们称为“智能”的能力时，问题才变得更加尖锐：

这些成功，究竟意味着我们制造出了什么。

参考文献

Boden, Margaret A. 2016. AI: Its Nature and Future . Oxford: Oxford University Press.

Brooks, Rodney A. 1991. “Intelligence without Representation.” Artificial Intelligence 47 (1–3): 139–159.

Chalmers, David J. 1995. “Absent Qualia, Fading Qualia, Dancing Qualia.” In Conscious Experience , edited by Thomas Metzinger, 309–328. Paderborn: Ferdinand Schöningh.

Chalmers, David J. 2010. “The Singularity: A Philosophical Analysis.” Journal of Consciousness Studies 17 (9–10): 7–65.

Müller, Vincent C. 2026. “Ethics of Artificial Intelligence and Robotics.” In The Stanford Encyclopedia of Philosophy , substantive revision March 27, 2026.

Searle, John R. 1980. “Minds, Brains, and Programs.” Behavioral and Brain Sciences 3 (3): 417–457.

Shanahan, M. (2016). “The Frame Problem.” The Stanford Encyclopedia of Philosophy, Edward N. Zalta (ed.).

Turing, Alan M. 1950. “Computing Machinery and Intelligence.” Mind 59 (236): 433–460.

人工智能与哲学读书会

大语言模型开始推理与创作，具身智能进入物理世界，AI for Science参与提出假设、设计实验与发现规律，人工智能正从执行指令的工具，逐渐进入知识生产与认知活动。

但能力的涌现并未终结关于智能的争论，反而带来新的追问：机器表现得智能，是否意味着它真正拥有智能？计算能否产生意识？大语言模型是在理解语言，还是在预测符号？AI参与科学发现，生成的内容能否被称为知识？这些问题已经超出单纯的技术评测，涉及智能、意识、意义、知识与主体的基本定义。

在此背景下，「集智俱乐部」联合人工智能哲学、心智哲学、逻辑学、知识论、科技哲学与复杂科学等领域的学者，共同发起“涌现之后：追问机器的智能、意识与知识”。本季读书会将采用腾讯会议线上直播的方式，从 2026 年 8 月26 日开始，每周三晚19:30-21:30，通过10期讲座和各位一起回到人工智能的概念基础与思想史现场，从人工智能哲学的方法论出发，依次讨论归纳、具身认知、机器意识、大语言模型的符号学，并进一步延伸至赛博格行动、价值对齐和AI驱动的科学发现。

详情请见：

1.

2.

3.

4.

5.

6.

7.