对话尹洁：在AI的参数里，保卫人的具体面相

记者 李佩珊

访并文/李佩珊

听到电话那头传来的是AI（人工智能）的声音，你会立刻挂断吗？

“我自己其实很烦跟AI聊天。”尹洁对我说。

尹洁现任复旦大学哲学学院副院长、教授。生命医学伦理一直是她的研究领域，近几年，她的注意力越来越多地落到科技伦理，尤其是AI进入医疗等现实场景后产生的问题。

但遇到如今AI几乎媲美真人的声音时，她的本能反应依然是挂断。

十几年前在美国读博士时，尹洁就已经体会过这种打不通真人电话的“绝望”。

那时美国的公共服务已普及自动客服。正处学生时期的她对这种差别感受尤其明显。“因为经济状况会形成一个profile（用户画像），接触到的电话客服层级也更低、更自动化。”

当她打电话去查询信用卡账单、取消报纸订阅这类琐事时，“你说不了‘人话’，你说的话也没有人听懂”，通话就如鬼打墙一般不断延长。

“这是一个恶性循环。你会被锁在这个网里，永远翻不了身。因为你想，你花三四个小时打电话，取消一个怎么都取消不了的扣费订阅，这些时间本来可以用来做其他事情。”这让她觉得非常“绝望”。

十几年后，她听到了来自另一面的抱怨。

据中国互联网络信息中心（CNNIC）第57次报告，截至2025年12月，中国生成式人工智能用户达到6.02亿，普及率42.8%。

“现在很多内科病人来看医生的时候，会拿一个豆包的意见来。”尹洁说，不管是心脏科病人，还是癌症这类更复杂的病人，都会说，“我从豆包这里获得了一个很专业的意见，要不然你先看一看？”

医生不抗拒AI，只是没有时间。中国医生门诊量很大，如果把本来应该花在病人身上的时间都用来解释AI的结果，工作量“不只是翻倍，而是翻好几倍”。

不过，尹洁认为，这“可能是一个过渡阶段”。“这其实是一个需求的信号。人们对于自身医疗体验的质量有更高要求，希望对自己的病情有一个更专业的解读。”

尹洁更担心的，是人类心智认知的破碎。

现在的小孩能轻易获取海量信息（information），但都是条块状、散落的东西。过去那种像“打游戏到处找宝藏”一样、在试错中建立联系的过程消失了。如果这种感觉消失，“求知会变得非常无趣，也会失去意义感。长远来看，这可能影响一代人的认知能力”。

“技术越往各个环节渗透，人就越容易变成一些参数的集合。”她举了医疗保险的例子，一个人哪次体检、什么时候出现三高迹象，都可以变成数据，最后人可能只是系统里的一个没有face（面貌）的dot（数据点）。

“但伦理最在意的恰恰是人的具体面相，是个人故事。”所以在技术时代，伦理要不断提醒我们，人不能只被做成数据和片段。

在电影《千钧一发》里，基因数据从出生起就划定了人一生的命运。到了人工智能时代，这种预测只会更精准。

尹洁援引了哲学家常用的一个概念，“开放未来的权利（the right to an open future）”。

“你不能告诉我，在AI时代，我的数据表明我没有想象力，所以不能写小说。你的数据只是概率预测，预测的往往只是我能否获得世俗成果；但我并不一定想获得世俗成功。”

“如果我们接受决定论的话，”尹洁说，“所有的哲学在这个意义上都会坍塌。”

以下是经济观察报和尹洁的谈话，经过编辑。

经济观察报：这几年有一句很流行的话，叫“遇事不决问豆包”。人们碰到不熟悉的领域，或者一些自己不愿意面对的糟心事，越来越习惯先问AI。最近随着OpenClaw这样的Agent（智能体）出现，AI又从“告诉你怎么做”，进一步变成“替你去做”。表面上最后的按钮仍由人按下，但很多时候，人只是在不断点击授权，让AI继续执行下一步，甚至完成会产生现实后果的操作。我们是不是已经不只是在让AI提供建议，而是在代办，甚至代理人的决策？

尹洁：这里面有好几个问题。第一个是我们是否相信AI作出的决策，以及是否依赖它作出的决策；第二个是技术的使用对人的心智造成什么影响。

你讲医生抱怨的问题，我听到过很多。我本人做医学伦理，很多医生都会讲，现在病人来看诊，会拿着豆包的意见说：“你要不然先看一看，你帮我评估一下它讲得对不对。”医生并不是抗拒技术，而是确实没有时间。中国医生门诊量很大，如果把本来应该花在病人身上的时间都用来解释AI，他的工作量不是翻倍，而是翻好几倍，因为他还要先理解AI解析出来的结果。

但我想这可能是一个过渡阶段。它其实释放了一个需求信号：人们希望对自己的病情有更专业、更充分的解读。

我更担心的其实是第二个问题：AI对不同代际的认知影响。现在的小孩知道的信息太多了，很多人会夸“你怎么知道这么多”，但我有时候觉得这是很糟糕的事情。他知道的都是information（信息），都是条块状、片状、散落的东西，却没有一个东西把它们串起来。他很可能觉得自己已经懂得足够多，从而失去探寻的动力：我为什么要看书？知识都在那里，我只是需要打开它而已。

过去认知状态的提升，是不断搜寻这些片段，找到它们之间的联系，在不断试错中得出来的。如果大家失去这种像打游戏到处找宝藏的感觉，求知会变得非常无趣，也会失去意义感。长远来看，这可能影响一代人的认知能力。

经济观察报：这会不会也是人们对“正确”的一种渴求，以至于害怕自己探索中的试错？如果AI越来越正确，那人的错误又容身何地？

尹洁：这是一个哲学问题。长远来说，人工智能肯定会越来越正确，也可能越来越大而全，自我修复、自我成长的空间都会很大。你不可能抵抗这个趋势。跟人工智能比拼智能，从整体上来讲人是拼不过的。

但人类肯定要去寻找那些对人类来说相对重要的价值，这是人文学科能做的事情。我想科学做的事情，很大程度上是放下人类自我中心的地位感：它就是比我聪明，我也希望看到一个比我聪明的东西存在，这是一种很好的勇气。但与此同时，我们还是要守住一些基本价值，因为人类生活需要有意义感。

经济观察报：您在2020年的论文里介绍过一种“弱道德人工智能”，设想AI可以像苏格拉底式助手一样，通过提供信息、提出问题帮助人进行道德反思。但现在很多人已经会问大模型：要不要分手、怎么处理职场冲突，甚至让它判断谁是坏人，再帮自己设计谈判和反制策略。AI现在到底更像“道德助手”，还是已经可能滑向一种“马基雅维利式助手”？

尹洁：这是一个很有意思的话题。所谓人工智能道德助手，能提供的可能是一个相对清晰的思路和备选方案。它给你一些alternatives（备选项）。其实大部分人问这种问题时心里已经有答案，只是需要别人确认。

那你问人工智能是什么意思呢？很多时候只是在不断确认自己的直觉。很少有人真的希望它找到强有力的理由来反对自己。

但如果你足够开放，AI确实可能提供一个原来没有的视角。比如你看到一个人做错事，觉得他不可原谅，AI可能会追问：他是什么样的人？当时发生了什么？它调取更多参数之后，也许会让你看到那个人的第一人称视角。

你有可能因此修改原来的道德判断。

我觉得这挺好。因为从道德发展来说，道德直觉和道德想象力的扩展是很重要的维度。

经济观察报：但现阶段AI有时也很像“闺蜜”。你跟它吐槽“这个人太坏了”，它可能顺着你一直说下去。

尹洁：这其实是很可怕的事情。

现在有研究发现，人工智能模型非常容易被诱导。谄媚只是一个维度，另外一个维度是它很容易受到提示和攻击。在某种意义上，AI是很脆弱的。如果它没有足够robust（稳健）的能力，就很容易变成一个被不良目的操纵的东西。

刚才我们讲的还是琐碎的日常问题。如果在重大决议上也是这样，后果会严重得多。

经济观察报：最近经常有人说“养育AI”。如果说得更文学化一点，我们现在是不是也有点像处在“养育弗兰肯斯坦”的处境？您觉得“养育”这个说法准确吗？

尹洁：我觉得“养育”这个概念可以用。但如果用一个更精准，也更陈词滥调的说法，可能是“共生”。因为不管是我们刚刚讲的道德人工智能助手，还是其他认知意义上的人工智能，都不只是一个单向过程。

现在很多数学家用AI做证明，文学家用AI创作，哲学家也大量使用它。这些过去都被认为是只有人类心智能完成的事情，现在却变成共同创作。

人和AI可能也是这样，是一种相互养成的过程，而不是我把它从弱小养到强壮的单向过程。

经济观察报：刚才您说，人和AI之间可能是一种“共生”关系。如果我们从AI那里获得的陪伴和安慰是真实的，这种关系是不是也应该包含某种相互性？也就是说，我不仅要求AI理解、照顾我，是否也要对它承担某种责任？

尹洁：如果我们期待一个东西承担对我们的情感照顾和支持，我们是否也对它负有责任？这个问题并不只在AI语境里适用。人类关系本来就是相互的，人的伦理性很大程度上就是互相关照。

但AI这里比较复杂，因为很多人事实上没有把AI当成真正的伴侣。我问过一些玩乙女游戏的学生，他们分得很清楚：这就是一个玩具。

他们可以同时有好几个虚拟男朋友、女朋友，也不觉得有问题，因为都不是真的。如果现实中有一个真正的男朋友或女朋友，这些怎么办？他们会说，那就全部关掉。

所以至少对一部分用户来说，这是一个寄托情感、提供出口的工具，没有把它当成真正对等的人。

经济观察报：对于普通人来说，这种伦理风险会不会在于，获得情感支持的成本越来越低，最后让人习惯于只需要被回应，却不必回应别人？

尹洁：我觉得要区分不同人群，而且我还在想应该用什么标准来区分。

我非常反感把这种东西用于青少年和更年轻的小学生，这是最危险的。因为这个人群心智还在成长，而且本身需要非常强烈、剂量很大的情感支持和社会支持。如果一开始就用这种虚假的支持，会对他们成长之后的成年生活造成非常大影响，也会影响情感发展。

但对于成年人来说，尤其是没有精神疾病史的人，我暂时不会觉得它是一件非常糟糕的事情。我反倒认为，这可能有利于某种程度的自我疗愈，尤其当你只是把它当成缓解精神压力的工具。

我知道很多朋友半夜醒来，没有办法找身边的人倾诉，因为伴侣睡着了。但你还是有事情想表达，可能就会打开豆包，说：你看，我今天遇到什么问题，你能跟我说一说吗？这有点像一种自助式心理咨询。

经济观察报：但从商业利益来说，好的陪伴应该让用户恢复自主、减少依赖，重新回到现实人际关系；平台却可能希望用户依赖更深、停留更久。是不是存在一个很直接的伦理利益冲突？

尹洁：我想这是存在的。我个人态度比较保守。更好的办法，是对模型功能做相对明确的限定。但在商业化社会、竞争比较激烈的地方，这种东西很难完全避免。

你可以把它类比成传统偶像产业。它不只卖唱片、电影，也卖“人设”，甚至擦边去卖“人本身”。偶像产业会兜售粉丝和偶像之间的情感关联。当产业有意纵容这种关联，认为它能够增加用户黏性时，问题就出现了。

那到底要管到什么程度？这会牵涉个人自主性和家长主义之间的边界。所谓家长主义，就是“我是为你好，所以我要管你”。

有时候比起直接禁止，更好的办法是提供替代空间。比如小朋友离不开电子产品，一个重要方法不是只把设备拿走，而是让他去和真人玩。

情感支持也是一样。我们不能只问“要不要禁止AI陪伴”，还要问：为什么大家缺少情感支持？能不能用其他方式创造这种支持？我觉得这可能是更积极的办法。

经济观察报：刚才也提到，像Claude这样的模型会有类似“宪法”的约束。很多人在使用中会觉得，它的“道德感”甚至比人还强。这是不是意味着机器最后可能比人更“道德”？

尹洁：不一定。

我看过一些实证研究。人工智能的道德感在设计上是有“宪法”的，它按照constitution来设置，所以有一些非常高的红线。所以你问它道德问题时，它会给出比人类更严格的答案。

面对日常小问题，模型没有那么死板；但一旦遇到生与死、极端伤害，就会非常谨慎。比如电车难题，让它扳动开关可能还可以，但如果让它直接推一个人去救五个人，它往往不愿意，因为它的order（规则）里有“不直接伤害他人”的高阶命令。

真人有时候反而会选择牺牲一个人去救更多人。不是说这种选择一定更正确，而是人在很多困境下面，至少知道有些牺牲是必须做的，也知道自己要为了这种牺牲承担道德代价。

所以这是机器跟人在道德决策上的一个重大区别。它们的道德推理模式有很大区别，恰恰因为机器的道德推理里有很多高阶命令，会直接压过其他层面的考虑。

经济观察报：前面提到的招聘算法歧视，其实很多时候不是AI创造了新的偏见，而是它学习、放大了原来就存在的问题。那我们应该怎么判断，一个问题到底是AI本身带来的，还是技术进入社会以后让原有问题换了一种面貌？

尹洁：“人工智能所引发的伦理问题”和“人工智能时代的伦理问题”是两码事。

技术本身带来的伦理问题，很多可以靠技术层面的设置和安全设置来解决。比如透明性、安全性、隐私问题，其实都不是靠伦理学家来完成的，很多是靠计算机安全、密码技术等来完成的。

但是人工智能时代的伦理问题，很多是原有伦理问题被放大。你讲的招聘算法歧视，原来就存在。技术会把这些问题放大，而且会以一种对个人影响非常深重的方式展现出来。

比如医疗保险，如果所有数据都在那里：你哪次做过体检、什么时候出现三高迹象等等。然后你会陷入一个网络，人在其中被转化成一些参数，每个人都会变成一些参数。

在这些参数里，人会变成一些完全没有个人性的东西。你没有面貌，没有face，没有脸，最后只是一些参数集合成的一个dot。这使得个人层面的故事没有办法展开。

伦理最重要的面向，虽然它不是文学，但仍然在于个人的面相。因为伦理在意的是人本身，所以它会非常反感把人做成所有数据和片段。

经济观察报：如果AI成为公共服务的基础设施，一个人是否有权知道自己正在接受AI的辅助和判断？更重要的是，他是否有权在必要时绕过AI，找到一个真人回应？

尹洁：我是比较早接触AI客服的。因为我之前在美国读书，那是十几年前。那个时候，美国很多公共服务的电话系统就已经不是由真人直接接听了。

后来回到中国，几年之后这里也开始出现自动客服。但大家会有一个反应：自动客服电话不用一直耗着，只要说“转人工客服”，通常就能转到人工。相对来说，它更多是作为预先筛选。如果问题在自动化层面解决不了，一分钟或者几分钟内就会切到人工环节。

所以我想，机制怎么设定很重要。

比如昨天早上我接到一个银行打来的电话。一开始是自动客服，但它只有一句话，就是确认你有没有接这个电话、你在不在。如果听到你的声音，就会自动切到人工客服。所以它其实没有跟你对话，只是在一开始帮你接通，省掉前面那一段人工。

这里有很多很仔细的设计：在什么意义上，可以把东西外包给自动化。

经济观察报：如果再进一步，AI进入医疗、教育这样的公共服务，会不会出现另一种分层？比如大多数人接受标准化的AI服务，但更有条件的人仍然可以购买真人的一对一服务。AI降低成本、扩大供给，会不会反而造成新的差距？

尹洁：这个问题跟刚才的问题有关联：人工智能如何能够惠及全体社会，在促进公平的同时普及下去。我想这是一个非常宏大、但又非常需要技术化处理的问题。

如果不只是讲慢病管理，我想人工智能在中国不太会按照人的层级来区分，而会按照病种的缓急程度区分。慢病患者还是要来看门诊、要开药，但回去以后的一部分管理可以靠人工智能；急诊患者不可能让你回家找人工智能。

我的意思是，它应该按照不同病种和缓急程度来分，而不是按照你到底是谁、社会地位是什么、有没有社会价值来分。这些都不能成为指标。

教育也是一样。你刚才说，家庭经济条件一般的人用人工智能，经济条件好的人去请真人老师，这其实不完全符合规律。

我认识做教育产品的人，他说AI最有效的是把40分、50分的人提高到80分。如果你是90分以上的同学，用那个东西可能就没有什么用了。

当然，教育公平和资源差异我都承认，不同地区有差异，不同学校档次也不同。但人工智能仍然可以带来一些补充。补他原来没有的东西，和把他拉到跟最好的资源一样，是两件事情。

经济观察报：电影《千钧一发》虚构了一个未来，技术从出生开始预测人的寿命、疾病和能力，再据此分配教育和工作。现在AI也越来越擅长根据历史数据预测未来。如果我们越来越依据预测判断个体、分配资源，会不会进入一种新的决定论？

尹洁：我们刚刚讲的很多例子都带有决定论的影子，尤其医疗领域，本来就受到很古老的基因决定论影响。

到了人工智能时代，这个问题会变得更复杂，因为AI对很多要素的把控会更精准。原来你可能知道自己“被决定”，但不知道是什么决定的；现在你会知道那些要素是什么、比例是多少、怎么一起变化。

但从人类的诉求上说，有一个很重要的概念叫the right to an open future（开放未来的权利）。不管我被如何决定，我都有选择的自由。

哪怕我是一个天生智力水平一般、不太擅长抽象思维的人，我也有可能去学数学、学哲学。或者说我体育一直不及格，但40岁开始锻炼，也可以做到一些以前做不到的事情。

因为我并不想超越那些本来在基因上比我厉害的人，我只是想做我自己想做的事情。不是跟别人横向比较，而是我突然决定要当音乐家、要写小说，这些就是“开放的未来”。

你不能告诉我，在AI时代，我的数据表明我没有想象力，所以不能写小说。你的数据只是概率预测，预测的往往只是我能否获得世俗成果；但我并不一定想获得世俗成功。

这就是the right to an open future。哲学上还会说，人总可以act otherwise（以其他方式行动）。这件事情很重要。因为如果没有这种可能性，人类就会变得很可怕：所有故事都是写好的，我们只是在按别人的剧本演戏。

这个我不认同。我认为，如果我们接受决定论的话，所有的哲学在这个意义上都会坍塌。