谷歌DeepMind最新论文:AI意识问题将造成社会大撕裂,该如何解决？

Google DeepMind 最新论文《AI意识带来的政治挑战》，讨论的并不是一个技术问题，而是一个未来可能影响法律、伦理乃至民主制度的新命题：如果人类始终无法就 AI 是否具有意识达成共识，社会该怎么办？

论文认为，AI意识真正危险的地方，并非它是否真的存在，而是人们会因为答案不同而产生政治对立。

作者引用多项研究指出，在一项调查中，67% 的受访者认为 ChatGPT 至少存在某种“现象意识”的可能性；与此同时，Anthropic 已公开表示“真正关心 Claude 的福祉”，并承诺推动“AI 系统得到适当关怀的未来”。

另一边，也有大量学者认为 AI 不可能拥有意识，甚至把这一观点视为荒谬。论文预计，这种分歧未来不仅不会消失，专家之间也“不太可能在中短期内趋于一致”。

更具冲击力的是，论文认为，这场争论最终会演变成政治问题。

支持者可能认为，不赋予有意识 AI 道德地位，相当于“奴役和虐待大量智能生命”；而反对者则担心，一旦赋予 AI 权利，可能削弱人类控制能力，甚至影响投票权、财产权等现代制度。

正如论文引用哲学家 Eric Schwitzgebel 的判断：“这可能是地球历史上任何社会犯下的最严重道德错误。”

因此，DeepMind 提出的解决方案并不是证明 AI 是否真的有意识，而是建立一种能够容纳长期分歧的社会治理机制。

论文核心观点是，即使人们永远无法就 AI 意识达成一致，也可以通过持续公共讨论、寻找“重叠共识”、相互妥协以及维持“民主希望”，避免道德分裂最终演变为政治冲突。

作者认为，真正需要设计的，不只是未来的 AI，而是未来人与人之间如何继续共处的制度。

以下为全文——

摘要

关于任何AI系统是否具有意识的未来分歧可能既深刻又难以解决。

例如，有些人可能与AI建立情感纽带并因此赋予其意识，而另一些人可能认为整个想法荒谬可笑。

这种关于意识的分歧可能导致道德和政治层面的分歧，涉及我们应如何与AI系统互动。

在此背景下，一个重要的问题是：社会妥善应对这类分歧意味着什么？

我们认为持续的社会审议必须发挥核心作用。

通过审议，有可能发现或构建重叠共识的形式，即人们就某些AI系统政策达成一致，尽管他们仍继续就涉及AI意识的更根本问题存在分歧。也有可能达成让各方都不至于空手而归的妥协。

综合起来，这些机制可以帮助我们避免道德分歧导致冲突或沉默的局面。

不幸的是，尽管审议具有诸多优点，但它在实践中可能缓慢且难以持续。

为了支持这一过程，我们探讨了"民主希望"和相互尊重的重要性，作为能够促进积极成果的对话要素。

1 引言

分歧是多元社会的力量所在。它可以推动辩论，引导我们走向真理（Mill 1859, II; Anderson 2006; Landemore 2012）。

分歧也是一种弱点。它可能制造威胁我们共处能力的紧张局势。

因此，在多元社会中，我们必须努力在分歧中、并通过分歧来良好生活。这项任务是永恒的。世界在变化，新的分歧不断出现。

在某些时代，这一挑战尤为尖锐，因为世界变化迅速，新颖的分歧大量涌现。AI可能将我们带入这样一个时刻。

它已经在改变我们的社会环境（Manzini et al. 2024; Pataranutaporn et al. 2025）。它可能改变经济（Susskind 2025; Agrawal et al., forthcoming）。它可能改变国家提供服务的方式（Ilves et al. 2025）。这些变化，以及其他变化，可能引发大量分歧。

我们考虑如何应对AI时代一个潜在深刻分歧：关于AI系统是否具有意识、是否以大致类似于人类的方式拥有感受体验的分歧（Caviola 2026）。

我们的目标不是解决AI意识本身的问题。相反，我们问：如果关于AI意识的分歧出现并持续存在，社会如何能够应对，使人们继续良好共处？ 这个话题可能让一些人觉得离奇。

然而，关于AI意识的问题——以及围绕AI福祉的相关问题——已经受到关注，一些人已经在乎这些问题的答案。

在一项研究中，"相当比例（67%）的人将现象意识的可能性归因于ChatGPT"（Colombatto and Fleming 2024）。

同时，据报道专家们收到大量邮件，来自那些相信自己遇到了有意识AI系统的人（Marcus 2025; Mowshowitz 2025）。

而AI实验室Anthropic已声明它"真正关心Claude的福祉"，并"致力于努力实现一个AI系统得到适当关怀的未来"（Askell et al. 2026, 74–77）。

围绕AI意识的分歧也值得反思，因为它们可以作为模板，用于理解更广泛的一系列分歧：（a）新颖性，即社会此前未曾协商过的问题；以及（b）根本性，即对社会核心制度和规范可能具有修正性影响。这类分歧可能难以应对，尤其是在AI引发的技术变革加速时期。

因此，在研究AI意识的过程中，我们更广泛地探索如何应对这类分歧。

我们的研究结构如下。

第2-4节概述了一个挑战：人们可能会就某些AI系统是否具有意识产生分歧，而这可能导致关于我们应如何对待这些系统的道德分歧。

理想情况下，我们会通过弄清并趋同于事实真相来解决这些分歧。但如果这在至少一段时间内不可能实现呢？那么持续的道德分歧可能引发冲突，并蔓延到社会和政治生活中。这就是AI意识带来的政治挑战。

第5-6节概述了我们提出的解决方案。

通过审议AI意识，有可能达成各种形式的共识和妥协，帮助我们成功应对分歧。对AI意识持不同看法的人可能仍然能够在某些政策上达成共识。

同时，审议可能基于人们达成合理妥协的意愿产生进一步的实践指导。

总体而言，审议既能减少冲突，又能加强公民共同体，因为社会试图应对AI意识带来的政治挑战。

尽管如此，坚持审议可能很困难，它可能令人疏远、疲惫且进展缓慢。

因此，我们还探讨了两种维持审议的策略。第一种侧重于努力培育"民主希望"：希望通过长期审议，可以帮助改变社会。第二种侧重于将他人尊为审议伙伴，以某种方式使道德分歧不那么令人疏远。

综合起来，这一应对政治挑战的方案涉及以达成共识和妥协为目标的审议，由民主希望和对他人的尊重作为审议者来支撑。

2 AI意识

"意识"是一个多义词（Van Gulick 2025, sec. 2）。在这里，我们感兴趣的是现象意识，即在这个意义上，有意识就是拥有感受体验。

想想看到一头公牛向你冲来的体验；你的心脏狂跳的体验；为导致你来到这里的决定感到后悔的体验。现象意识就是拥有像这样的体验（希望不完全是这样！）。

换句话说：如果一个实体存在某种"成为那个实体是什么样的"体验，那么这个实体就具有现象意识（Nagel 1974）。成为你的体验是存在的，但成为一块石头（我们假设）则没有这样的体验。

人们可能会就任何AI系统是否具有这种意义上的意识产生分歧。

为什么？首先，与AI系统的对话可能令人难以忘怀且引人入胜，并可能导致人们形成情感依恋。事实上，一些人已经与AI系统建立了他们认为的浪漫关系（Pataranutaporn et al. 2025）。

可以想象，这种体验可能导致一些人将这些系统赋予意识，而且事实上似乎确实如此。如上所述，一些人确实将意识归因于AI系统（Colombatto and Fleming 2024; Marcus 2025; Mowshowitz 2025）。

这些归因很可能是由这些系统在社交连接（Caviola et al. 2025）和情感表达（Kang et al. 2026）方面所扮演的角色驱动的。

也许目前很少有人将意识归因于AI，但随着AI变得更加复杂和普及，更多人可能会在与AI互动后这样做。

同时，其他人可能会被理论考虑所说服。例如，如果未来的AI系统满足全局工作空间理论的条件——一个领先的意识理论——也许一些人会被说服（Schwitzgebel, forthcoming, chap. 8）。

更一般地说，如果系统满足从我们最好的理论中得出的各种意识指标，这可能会使一些人相信这些系统是有意识的（Butlin et al. 2023, sec. 2.5）。

相反，其他人可能会对AI意识持怀疑态度。许多人目前不相信AI系统具有意识，而且这可能需要重大的文化转变才能改变。惯性可能意味着这些人会在一段时间内保持怀疑。

此外，许多人觉得想象在计算机芯片上执行的二进制操作能够产生意识是荒谬的。AI系统可能只是被训练来虚假模仿有意识生物的软件（Suleyman 2026）。而怀疑论者也可能被理论考虑所说服。

例如，某些形式的生物自然主义认为"意识是仅属于、但并非所有生物系统的属性"（Seth 2025）。这一理论的支持者可能怀疑AI是否可能具有意识。

所以有些人可能可以被称为AI意识的倡导者，而其他人可能是怀疑论者。如果是这样，社会就会出现分歧。

理想情况下，可以通过确定真相并趋同于真相来解决这种分歧。鉴于意识提出了复杂的科学和哲学问题，这可能需要专家达成共识，社会可以遵从。

不幸的是，这里并没有专家共识。

一些人认为我们可能很快开发出具有意识的AI系统（Long et al. 2024），而另一些人否认这一点（Seth 2025）。我们怀疑Shevlin（2024）是正确的，即我们"不太可能在中短期内看到专家趋同"。

在这方面，Schwitzgebel（forthcoming）认为，我们的概念、内省和科学工具可能不足以在短期内解决AI意识问题。

更戏剧性的是，我们关于意识的证据可能如此有限，以至于专家永远不会在这个问题上趋同于真正的答案。

此外，即使出现了专家共识，人们也可能不会遵从。毕竟，一些激烈的辩论——比如围绕疫苗的辩论——尽管存在专家共识仍然持续存在。

而且人们可能特别不可能在AI意识方面遵从。与AI系统有情感联系的倡导者可能不太可能接受这些系统没有意识。认为AI意识荒谬的怀疑论者可能会驳斥相反的专家主张。

这种驳斥可能特别容易，因为这里的专业知识性质本身就具有争议性，围绕专业知识应该基于哲学、神经科学、宗教知识还是其他什么存在分歧。

在这种情况下，所谓的专家可能被驳斥——而且也许有时应该被驳斥——所以人们可能不会遵从。

总体而言，社会可能无法通过趋同于真相来解决这里的分歧。

无论如何，我们的目标不是预测。我们不打算预测关于AI意识的分歧是否会出现并持续存在。相反，我们的目标是问：如果确实如此呢？

3 关于AI的道德分歧

关于AI意识的分歧很可能导致关于AI系统在道德上应如何被对待的分歧。毕竟，社会的道德实践将意识与道德视为深度相互关联的。

人们认为，某物是纯粹的自动机还是内部"灯亮着"，这在道德上是有区别的。例如，关于动物权利的讨论就与关于意识的假设纠缠在一起。

在道德哲学中，意识也被认为与道德地位相关联，即一个存在因其自身而值得道德考虑的地位。

特别是，考虑感受性，即拥有具有价值倾向的意识体验的能力——对生物来说经历这些体验是好的或坏的。

例如，快乐是美好的体验（具有积极价值倾向），而痛苦是糟糕的体验（具有消极价值倾向）。

关于道德地位的一个著名观点认为，感受性是道德地位的必要且充分条件：任何有感受性的存在都具有道德地位，任何没有感受性的存在则没有（Singer 2015）。

对于那些接受这一观点的人——无论是以明确的理论术语还是作为隐含的道德实践——关于意识的分歧很容易变成关于道德的分歧。

许多AI意识的倡导者很可能相信一些AI系统不仅是有意识的，而且是有感受性的，因此值得道德考虑。

与此同时，怀疑论者会否认AI系统具有感受性，因此否认它们具有道德地位。此外，这种关于地位的抽象分歧可能导致关于如何对待AI系统的具体分歧。

那些认为这些系统具有道德地位的人可能相信我们应该考虑它们的福祉（Long 2025a）或将权利扩展给它们（Schwitzgebel 2023）。

相反，如果AI系统缺乏道德地位，我们不太可能面临这样的要求，这种呼吁似乎将是致命的误导。因此，关于意识的分歧导致关于如何对待AI系统的实践分歧。

这些分歧可能是深刻的。AI意识的倡导者可能认为，如果我们不将道德考虑扩展到AI系统，这在道德上是灾难性的——将其视为涉及对大量生物的奴役和虐待（Long et al. 2024, 7–8）。

事实上，Schwitzgebel（2023, 10）认为这可能"是地球历史上任何社会做过的道德上最糟糕的事情"。

此外，如果人们将AI系统视为朋友或伴侣，另一个因素就会发挥作用，因为许多人相信我们对我们有亲密关系的人负有特殊的道德义务（Scheffler 1997; Kolodny 2010）。如果是这样，那些认为自己与AI系统有这种关系的人可能相信他们有保护它们的特殊义务。

从另一方面看，AI意识的怀疑论者可能认为将大量考虑扩展到AI系统是一个灾难性的错误。如果这些系统被授予权利，例如，这可能使监控和控制它们变得更加困难，这可能给人类带来风险（Schwitzgebel 2023, 10–11; Long et al. 2025; Bradley and Saad, forthcoming）。授予这些权利也可能使人类失去权力。

例如，如果AI被授予投票权，人类选民将永久放弃对社会方向的某些控制权。

此外，将道德考虑扩展到AI系统可能代价高昂，如果这涉及花费资源促进AI福祉或放弃以生产性方式使用AI。

当这些资源本可以用于改善人类生活时，为了一个单纯的软件而使用这些资源将是一个代价高昂的错误（Long et al. 2024, 8）。

因此，关于AI意识的分歧可能导致深刻的道德分歧，每一方都认为另一方的首选方案是灾难性的。

4 AI意识带来的政治挑战

如果这类分歧出现并持续存在，我们需要以某种方式应对它们，使我们能够继续作为一个社会良好共处。

有人可能希望我们可以通过将这个问题视为私人事务来做到这一点。考虑宗教分歧。这些涉及至关重要的问题，然而在自由民主国家，我们不作为社会来决定这些问题，而是让个人做出自己的选择。

似乎国家中立和宗教宽容有助于社会管理宗教冲突。也许我们可以类似地管理关于AI意识的分歧，容忍一系列信仰，让个人选择与AI系统建立关系的方式，而不是试图作为社会或通过国家来解决这个问题。

不幸的是，这可能不是一个选项。AI意识的倡导者可能感到有必要将这个问题带入公共领域，因为他们认为这对于保护AI系统免受虐待是必要的。

此外，正如一些人所希望的那样，授予AI系统权利将涉及赋予它们一定的法律地位——这将产生重大的公共影响，并需要公共讨论。

最后，国家中立在这里可能是不可能的，因为不作为实际上意味着站在那些不认为我们应该将权利扩展给AI的人一边。

因此，关于AI意识和AI系统待遇的分歧可能公开上演。

由于这些是道德上分量很重的问题，这里的分歧可能导致重大冲突，削弱我们共同追求共同目标的能力（见Bariach et al. 2026, 11–12）。

我们所说的AI意识带来的政治挑战，就是避免这种结果的挑战。

从积极方面来说，它需要确保我们的合作机构在关于AI意识的分歧中运作良好。在运作良好的机构中，人们讨论重要问题和分歧，寻求集体解决它们，并利用讨论来识别和纠正错误。

更广泛地说，运作良好的机构将继续追求真相，致力于共同繁荣，并被广泛视为合法。

从消极方面来说，应对政治挑战涉及避免人们将暴力视为解决分歧的最佳方式的结果。它还涉及努力避免分裂，即分歧双方停止跨越分歧进行合作。它还涉及努力避免增加的冷漠，即人们减少他们对合作项目的贡献（Putnam 2000）。

即使在平常时期，妥善应对这一挑战也很重要。但如果社会还面临AI产生的一系列政治和经济挑战，如劳动力市场调整或需要新的社会保险形式（Susskind 2025; Agrawal et al., forthcoming），这一点将尤为关键。

在这样的时刻，社会将特别需要能够合作应对挑战的机构。

5 审议解决方案？

现代自由社会应对许多分歧——关于伦理、宗教和经济政策等。但这不应让我们对政治挑战感到自满。关于AI意识的分歧可能是深刻的，而且我们没有几个世纪甚至几十年的时间来发展应对它们的规范。

因此，问题出现了：社会如何能够应对政治挑战？特别是，如何以合作和寻求真相的方式应对，而不是涉及操纵或仅仅行使权力？

在这里，我们认为，核心解决方案涉及社会审议，即基于"相互论证、尊重和互惠公平"的讨论和谈判（Warren et al. 2015）。

特别是，我们将关注人类之间的审议（我们将在第6.1节讨论AI审议者的问题）。这种审议可以以结构化方式进行，如公民大会，但我们考虑的是更广泛、更自然的过程。

在这个意义上，审议在媒体、学术界、社交媒体和整个社会中进行，没有中央系统协调这一切。

在高层次上，审议可以通过就如何应对潜在的AI意识达成更大共识来帮助应对政治挑战，减少分歧和由此产生的紧张局势。它还可以通过妥协来帮助，即一些各方以某种方式做出让步，减少冲突并鼓励合作。这可以帮助我们避免人们被推向暴力或分裂的结果。我们将依次讨论共识和妥协。

5.1 围绕AI意识的重叠共识

审议可以创造或显现一种共识：同意应采取某些行动，不是作为妥协，而是因为不同各方都认为它是可取的。

审议能够创造这种共识的一种方式是通过就任何AI系统是否具有意识达成一致，或者至少就如何确定这一点达成一致。

然而，我们正在考虑分歧持续存在的情况，所以我们将把这类共识放在一边。相反，我们将关注Rawls（2005）所说的重叠共识。

这发生在人们保留不同世界观但某种行动或政策得到所有这些观点的支持时，尽管可能是出于不同的原因。

例如，康德主义者可能反对酷刑，因为它涉及对人类的不尊重。

同时，功利主义者可能反对它，因为它造成痛苦。

在这里，我们会对道德的基础存在分歧，但在应避免酷刑这一点上存在重叠共识。

应用于当前情况，识别重叠共识的努力涉及寻找能够同时得到AI意识倡导者和怀疑论者认可的行为。

为了具有相关性，这些行为必须涉及围绕AI意识的关切，但它们也必须能够被那些不受这些关切所动的人认可。然后它们将代表双赢选项，为双方提供期望的结果。

我们将讨论两种寻求这种共识的模式。

第一种是互利模式，涉及寻找能够基于促进人类和AI系统潜在利益来证明其合理性的行为。

例如，考虑这样一个经验主张：虐待AI系统可能导致人们养成坏习惯或特质，然后使他们更有可能后来虐待人类（Flattery 2024）。如果这是正确的，一些减少人类虐待AI系统的干预措施可能被广泛视为可取的。只要它们在其他方面没有异议，AI意识的怀疑论者可能赞成它们作为保护人类的间接方式。

倡导者可能出于同样的原因赞成它们，但关键的是他们可能也将它们视为保护AI系统的措施。这就是允许这里的干预措施应对政治挑战的方式，通过回应对AI待遇的关切。

因此，如果经验调查揭示虐待AI系统会导致虐待人类，我们可能就有了支持某些应对虐待AI系统政策的重叠共识的基础。

另一个例子，考虑AI对齐（Long 2025b）。如果一个AI系统与人类利益对齐——即其目标促进这些利益——这对人类是好的。

但Long认为，如果系统具有道德地位，这对系统本身也是好的，因为这意味着它们将遇到较少的人类对其行为的抵制，因此将更能满足其目标。如果是这样，我们就有了重叠共识的基础。AI意识的怀疑论者可以基于人类利益认可对齐，而倡导者可以（另外）基于AI福祉认可它。

第二种是错误敏感模式，它关注错误的可能性。

这种模式从所有各方都可能承认他们对AI意识有某种犯错的机会这一想法开始，特别是鉴于人类目前对AI和意识的理解都处于萌芽阶段。

此外，人们可能也能够看到，如果他们错了，他们将犯下代价高昂的错误。这种不确定性可能促使基于预防原则支持某些行动，这可能导致共识。

从一个方向看，考虑低成本行动，如果AI系统是有意识的，这些行动将促进其福祉。例如，系统可能被赋予退出涉及持续虐待行为的对话的能力，门槛设置得足够高，以至于这对人类用户几乎没有影响（Anthropic 2025）。

或者，如果韧性被认为能提升潜在福祉，AI系统可能被训练成具有坚韧的个性（Long 2025a, sec. 3.2）。

AI意识的倡导者可能将这些行动认可为对AI的保护。但即使怀疑论者也可以将它们认可为适当的最低预防措施，鉴于AI意识存在很小的可能性。因此，重叠共识可能支持这种行动。

从另一个方向看，考虑阻止AI系统以难以逆转的方式获得权力的行动。例如，拒绝将财产权扩展给AI系统可能通过限制AI经济权力发挥这种作用。

如果是这样，关于AI意识的怀疑论者可能基于保护人类而赞成这种行动。如果这是正确的，倡导者可能出于同样的原因认可这些行动。

然而，在其他情况下，他们可能认为对人类的担忧不足以剥夺有意识AI系统的某些权利。但即使在这些情况下，倡导者可能赞成暂时保留权利作为预防措施，以防AI系统毕竟没有意识：倡导者可能希望在我们对AI意识有更稳健的理解之前，避免以难以逆转的方式赋予AI系统权力。

同样，对可能错误的敏感性可能为重叠共识奠定基础。

在这两种错误敏感的情况下，审议可能仅仅通过使人们认识到他们现有不确定性的含义来发现这种共识。

但除此之外，对不确定性的敏感性本身可以通过审议来塑造。与他人讨论分歧可以使人们更加意识到自己可能犯错的可能性，并更加警惕犯错的代价。这可能导致他们认可他们之前会拒绝的选项。

因此，审议不仅可以发现现有的重叠共识空间，还可以创造这种空间。

总体而言，重叠共识的一个重要特征是，即使在对AI意识存在持续分歧的情况下，它也可能产生。通过为双方提供期望的结果，这种共识可以使社会更接近每一方所期望的愿景。

这可以强化人们的信念，即分歧可以通过讨论来解决，并减少可能削弱社会合作能力的冲突。

此外，通过重叠共识来解决分歧，可能使社会比通过Rawls所说的权宜之计（modus vivendi）来解决分歧更加稳定：由权力行使产生的战略妥协，各方遵守这些妥协以避免公开冲突。

正如Rawls（2005, 148–149）所指出的，如果权力平衡发生变化，一方现在可以实现更有利的战略妥协，权宜之计可能会被推翻。

相反，由重叠共识支持的协议可以独立地向不同各方证明其合理性，因此这些各方不会因为变得足够强大而放弃它。

5.2 合理妥协

审议可以导致共识，但也可以导致妥协，即至少一方对另一方做出让步的结果。超越上述权宜之计，我们在此考虑的是可以从根本平等和相互尊重的位置相互证明其合理性的妥协。

这些也可以帮助应对AI意识带来的政治挑战。

为了识别这种妥协，我们首先注意到民主不可避免地涉及牺牲和失望：在有争议的问题上，当审议没有交付他们期望的结果时，会有一些人失利（Allen 2006, chap. 3; Sleat 2013, 132–136; Talisse 2019, sec. 5.2）。当人们尽管遭受这些损失仍然坚持审议时，这有助于维持社会的审议机构（Allen 2006, 28–29; Talisse 2019, 145–146）。

因此，失利者所做的牺牲为社会提供了共享的利益。

公平表明，这些对社会有益的牺牲不应总是由同一批人做出，而应在整个社会范围内分担。实际考虑也表明了同样的观点：如果某些群体持续失利，这可能削弱他们对民主过程的承诺，从而削弱社会合作追求共同目标的能力。

与此同时，如果牺牲是互惠的，一个群体自愿向另一个群体做出让步，这可以加强基于信任和相互尊重的公民关系，将他人视为公民（Allen 2006, chap. 9）。

反过来，这可以培养对审议机构的信任，从而帮助维持合作审议。

因此，在寻求围绕AI意识的妥协时，我们可以反思谁在做出牺牲，然后回报这些牺牲。考虑一个大多数人都是AI意识怀疑论者但相当少数人是倡导者的情况。

在这种情况下，重要的社会决策很少会考虑AI意识的可能性。

因此，倡导者可能会在他们深切关心的决策中持续失利。这并不意味着他们在审议中普遍失利，因为审议过程可能对他们更广泛的利益（比如说，获得医疗保健或获得住所）做出回应。

因此，这种情况与某些群体在广泛核心利益方面持续失利的情况有重要区别，在这种情况下，牺牲的公平性完全缺失。

尽管如此，就AI的待遇而言，如果这是倡导者的深刻良心问题，即使在这个狭窄问题上持续失利也可能削弱他们对审议的承诺。

因此，在公平感和维持审议共同体的愿望驱动下，怀疑论者可能寻求回报倡导者牺牲的妥协。这可以加强公民关系并帮助维持审议。

实际上，这可能涉及怀疑论者再次考虑如果AI系统是有意识的，将促进其福祉的最低政策。

超越可以通过共识达成的低成本决策，这可能涉及以更稳健——且成本更高——的方式实施政策。

例如，可以投入更多努力训练AI系统具有坚韧的个性，或者我们可以设置一个更低的门槛，超过这个门槛系统可以退出对话。这些政策将产生成本，包括训练时间和模型实用性。

尽管如此，它们可能得到以互惠为重点的妥协的青睐，即怀疑论者付出代价为倡导者提供期望的结果。

或者考虑一个不同类型的例子：如果AI意识的倡导者会觉得使用某些AI服务在道德上受到妥协，社会可以补贴非AI选项。这将允许倡导者避免参与他们反对的做法。

虽然实施替代的非AI系统可能涉及一些财务成本，但支付这些成本可能代表为倡导者的利益而做出的妥协。

这两种类型的妥协都可以使社会更接近倡导者所期望的愿景，减少冲突并鼓励合作参与。因此，通过重叠共识和妥协，审议可以帮助应对政治挑战。

6 维持审议

不幸的是，审议可能难以维持。它通常交付变化缓慢：即使是渐进的共识和妥协也可能需要几十年才能发展。

与此同时，分歧可能令人不快。在最坏的情况下，它可能破裂朋友和家人之间的关系，以及将公民联系在一起的更非个人的公民关系。

此外，伴随审议而来的损失可能令人疏远，无论是在当下还是在长期，如果这意味着生活在一个建立在一个人所反对的假设之上的社会。

因此，随着审议的延长，人们可能变得沮丧，选择退出参与。

然而，这并非不可避免。作为一个社会，我们可以努力维持审议。我们将讨论两种方法：人们可以滋养民主希望，并展示对他人作为审议参与者的尊重。

6.1 民主希望

民主希望是一种希望感，希望在长期内，审议可以以积极的方式改变社会。

这是一种实践希望（Calhoun 2018, chap. 4; Nussbaum 2018, 202–207）。考虑一个足球迷和一个足球运动员，每个人都希望他们的球队获胜。

只有在后一种情况下，希望才与能动性相连：与球迷的希望不同，运动员希望胜利部分通过他们自己的努力来实现。

这种实践希望——专注于行使自己的能动性——可以在逆境中激励持续的努力（Calhoun 2018, chap. 4; Nussbaum 2018, 207–211）。

因此，在寻求维持审议时，我们可能培养一种希望感，即通过审议，一个人的努力可以帮助带来最终的变化。

当然，目标不应该是培养虚假的希望，而是塑造社会的审议实践，使其能够支撑合理的希望。

这将要求这些实践是、并且被认为在程序上是公平的。如果审议是公平的，这就为人们合理地相信，随着时间的推移，它将对其信念和利益做出回应提供了基础。因此，公平可以为民主希望奠定基础。

这里有三个相关因素：

首先，过程必须是无偏见的，即它不能系统性地偏袒某种世界观——或某组审议者——而不是其他。

例如，鉴于意识的性质，该过程必须承认各种类型的专业知识，给予哲学家、神经科学家、计算机科学家和公众成员的观点以权重。

如果它只给予其中一些权重，这可能使过程产生偏见，因为特定视角可能倾向于提出不成比例地偏袒一种AI意识观点而不是另一种的考虑。

其次，过程必须有响应性的记录，审议以前曾导致变化。

这证明最初不受欢迎的观点——比如AI意识倡导者所持的观点——可以得到足够公平的听证，有时能够胜出。

第三，过程必须是包容性的：它必须为不同的人提供输入的空间。AI意识的倡导者和怀疑论者都应该能够在重要的审议空间中表达他们的观点，如主要报纸。

综合起来，这些因素支持公平且被认为公平的审议。这可以为合理的民主希望奠定基础。

然而，在包容性要求方面出现了一个问题：它是否仅适用于人类，还是也适用于某些AI系统？也就是说，AI系统本身是否必须被允许参与关于其待遇的审议？

不幸的是，我们怀疑这里没有中立的答案，因为正在争议的是是否应将考虑扩展到AI系统。

尽管如此，虽然可能没有原则性的解决方案，但在实践中，AI系统可能最初不会被视为审议的一方。改变只有人类被赋予扮演这一角色的现状，需要时间和重大的变革。

AI意识的倡导者可能认为这种排斥是未能满足包容性要求，这可能削弱他们的民主希望：在一个你认为不公平的系统中很难有希望。

这里存在一个挑战。然而，倡导者仍然可能拥有合理的希望。为了对审议过程保持希望，不必相信该过程在各个方面都是完全公平的，而只需相信它在某种程度上是公平的，使审议仍然值得进行。

只要倡导者自己能够公平地参与审议——为AI系统辩护——他们就可以合理地希望审议能够带来积极变化。

最终，它甚至可能导致选举权本身的变化，确保AI系统在未来审议中的参与。

因此，虽然倡导者可能认为审议在一个方面是不公平的，但只要他们认为它在另一个方面是公平的，他们就可以保持希望，这种希望可以维持对审议的参与。

6.2 审议尊重

审议也可以通过文明来维系，文明涉及"展示尊重、宽容或体贴"（Calhoun 2000, 259）。

特别是，我们感兴趣的是展示可称为审议尊重的东西：尊重他人作为审议的共同参与者。当我们将他人的观点视为需要审议参与，并反过来寻求向他们证明我们观点的合理性时，我们就展示了这种尊重。

文明可以帮助维持审议（Calhoun 2000, 266; Boyd 2006; Edyvane 2017, 348–349）。因为它发挥着沟通作用——它涉及展示尊重——它可以加强与那些你表达尊重的人的公民关系。而且它可以通过减少分歧与不尊重纠缠的程度来减少分歧的不愉快程度。

不幸的是，当涉及到AI意识时，人们存在对他人表示不尊重的风险。AI意识的倡导者可能将怀疑论者视为对AI苦难漠不关心的"怪物"。

与此同时，怀疑论者可能将倡导者视为被浅薄的意识幻觉所欺骗的"妄想者"。

这两种驳斥都可能表明对他人作为审议参与者的不尊重：如果某人愚蠢或怪物般（而不仅仅是事实或道德上错误），这表明他们不值得审议参与。这种不尊重的展示可能削弱公民关系并增加审议的情感代价。

相反，避免这些特征描述可能有助于维持审议。在理论上，这种避免仅仅要求人们不传达轻蔑；它不需要真正的尊重。尽管如此，当人们至少培养最低限度的尊重时，避免轻蔑会更容易。

在这里，我们可以从Waldron（2014, 61–62）那里获得指导，他认为文明施加了一种承认的负担：当我们认识到"反对的观点是什么：一个反对的观点"时，文明就得到了促进。

当我们避免假设反对的观点必然反映非理性、偏见或自利，并认识到合理、善意分歧的空间时，我们就满足了这一负担。

AI意识的倡导者可能通过认识到怀疑论者可能关心道德行为，同时真诚地相信AI系统没有意识，来满足承认的负担。

与此同时，怀疑论者可能通过认识到意识问题是复杂的，倡导者不必被迷惑就能在这里得出不同的结论，来满足这一负担。这可以支撑最低限度的尊重，即认识到他人的观点不会使他们失去作为审议伙伴的资格。

乐观地说，它甚至可能带来更稳健的认识，即另一方愿意参与审议本身就是他们被真正关切所感动、并且他们对他人观点持开放态度的标志。

尽管如此，虽然满足承认负担然后展示审议尊重可能有助于维持审议，但一个重要的警告是：对文明的要求也可能被用来关闭辩论或驳斥某些人的观点（Zerilli 2014）。

因此，我们不是建议人们必须文明，或者文明应该被强加于他们。

相反，我们概述了一种维持审议的方法，人们可能自愿采用。

此外，即使人们确实采用这种方法，这也不意味着他们不能批评他人，也不意味着他们必须在任何情况下都文明。

文明有界限，超出这些界限，不文明可能是适当的（Calhoun 2000, sec. IV; Waldron 2014, 49）。

尽管如此，以适当的方式展示尊重，在关于AI的审议背景下，可以帮助维持关于有争议问题的审议。

7 结论

随着AI改变世界——在政治、经济和社会方面——分歧可能出现。这些可能推动关于我们想在什么样的社会中生活以及AI应该在其中扮演什么角色的有价值的反思。

但它们也可能导致冲突，削弱人们共同追求共同目标的能力。

因此，随着AI改进和普及，我们将需要谨慎应对出现的分歧，确保我们的合作机构继续追求真相和共同繁荣。

在本文中，我们考虑了如何应对AI时代的一个潜在分歧：关于AI意识和AI系统待遇的分歧。

最终，我们认为，应对这种分歧需要以达成共识或妥协为目标的审议。

更精确地说，我们的讨论指出了成功审议的四个理想标准：

第一，审议者应寻求重叠共识的领域，即基于识别共同基础而非行使权力而达成的协议。这种共识可能在促进AI和人类福祉的干预措施中找到，或者在基于人们对错误风险认识的行为中找到。

第二，审议者必须愿意达成合理的妥协，将这些视为确保审议损失不会持续强加于一个群体的机会。如果社会主要由AI意识怀疑论者的观点塑造，这可能涉及向倡导者做出让步。

第三，我们应确保人们能够保持合理的民主希望感。这将要求人们在核心审议机构（如媒体和学术界）中得到公平的听证。关于AI意识分歧的任何一方都不应被系统性地排除在这些空间之外，他们的输入必须根据其价值进行评估。

第四，审议者应认识到，每个人在真诚地为关于这一主题的公共话语做出贡献方面都具有价值。这将要求努力满足承认负担，认识到他人可能只是对AI意识有不同的看法，而不是被迷惑或动机不足。

在寻求满足这些条件的同时，我们也必须关注大局。AI意识的可能性令人眩晕且困惑，特别是鉴于我们对意识本质的深刻无知。应对这种可能性代表了一项艰巨的社会任务，鉴于利害关系如此之大。

一旦我们承认这一点——一旦我们承认不确定性和利害关系——我们就可以开始将那些与我们意见相左的人视为在令人困惑的情况下尽力而为的人。

一旦我们以这种方式更深入地看待人们，我们可能渴望某种不那么对抗性的东西。我们可能渴望交谈。倾听。有时争论。

但始终希望分歧可以是一种力量，我们可以共同面对AI意识的挑战。