有效利他主义：是拯救世界，还是误入歧途？

有效利他主义：是拯救世界，还是误入歧途？

受邀参与 | 帮助孩子，而非甲壳类动物

莱夫·韦纳指出，人工智能领域需要的是具备良好判断力的人才。

佛陀、耶稣和墨子都曾与穷人同甘共苦，教导世人慈悲为怀。早期的英国功利主义者倡导人人平等，积极投身废奴运动，并为女性争取平等权利。

我的《经济学人》读者或许会感到困惑，有效利他主义者竟被誉为本世纪最伟大的思想倡导者。难道他们就是那些审视着我们这个纷争不断、千疮百孔的世界，然后宣称“我们必须拯救虾类”的人吗？

有效利他主义的优点并非新颖，而其新颖之处也未必尽善尽美。然而，部分有效利他主义者已掌握人工智能的权力，这对我们所有人而言都是一个潜在的问题。

多年来，我一直关注有效利他主义的发展，并对此深感忧虑。我担任斯坦福大学伦理中心主任，我们开展了诸多项目，旨在引导技术人员深思其产品对社会的影响。我们面临的挑战之一，是如何让那些一心只想发财的学生理解这一点。有时，更具挑战性的是那些自诩要拯救世界的有效利他主义者。

道德抱负固然可贵，但良好的判断力更为关键。若您浏览有效利他主义（EA）的论坛，会发现许多关于其文明意义的论断，这些论断常充斥着晦涩的数学术语。然而，关于世界运行规律或政策对普通人生活影响的常识性论述却鲜有提及。浏览完论坛，您或许不会放心将孩子托付给一位有效利他主义者照看。

我所担忧的是那些过于执着于扮演英雄角色的有效利他主义者。威尔·麦卡斯基尔的畅销书《我们欠未来的什么》宣称“你可以塑造历史进程”，并阐述了如何“构建全球社会”。但若您查阅书中提及的那个被誉为“极具成本效益”的气候变化慈善机构的脚注，可能会惊讶于该书推测的站不住脚和研究的粗糙程度。

再来看看有效利他主义旗下的扶贫慈善机构GiveWell。该机构宣称，其资助“将在贫困国家拯救超过34万人的生命”。然而，深入研究GiveWell的计算方法，您会发现他们忽略了许多发展经济学家熟知的负面因素。GiveWell的数据也遗漏了实际死亡人数。例如，GiveWell在尼日利亚北部一家排名靠前的慈善机构报告称，在与该机构工作人员发生冲突的众多武装匪徒中，有一人在搜寻现金时杀害了两人。按照该机构自身的成本效益论证，这两起死亡事件本应被计入GiveWell“拯救生命总数”的计算中，但却未被纳入。

有效利他主义者热衷于发表宏大宣言，却往往不愿承担责任。GiveWell今年或许会捐赠十亿美元，但其“拯救生命”的说法从未在同行评审期刊上发表。而且，如果情况恶化，其资助对象似乎也几乎没有任何维权途径。我有时会想，有效利他主义者之所以如此热衷于谈论“长远”未来，是不是因为他们深知，在事实证明自己错了之前，他们早已不在人世了。

有效利他主义作为一个整体运动，或许正走向终结。最能将“用现有资源造福人类”这一信条贯彻到底的倡导者，当属加密货币奇才萨姆·班克曼-弗里德。他理所当然地将他人视为可供利用的资源，如今却因欺诈罪在联邦监狱服刑25年。围绕在他身边的那些昔日的有效利他主义领袖，也因其一贯糟糕的判断力而声名狼藉。（正如经济学家泰勒·考恩所言，他们连班克曼-弗里德先生给自身组织带来的风险都看不到，我们又怎能相信他们对人类未来的预测呢？）我最聪明的学生们现在都觉得有效利他主义有点令人作呕。

如果这场运动基本结束，其影响也并非全是负面。有效利他主义的主要资助者如今在公开场合的言论更趋理性。而且，在各国政府削减开支之际，他们的一部分资金也被用于资助基础科学和公共卫生。

然而，如今真正重要的是那些致力于人工智能建设的有效利他主义者。他们的信条在硅谷一直很受欢迎，因为那里始终弥漫着一种彼得·潘式的奇幻氛围。许多有效利他主义者已经加入了大型科技公司，尤其是像Anthropic这样的前沿人工智能实验室。

人工智能功能强大，但人们对它的了解却十分有限。要引导其未来发展，没有什么能替代良好的判断力。具备良好判断力的人深知自欺欺人和群体思维的危害。他们渴望承担责任，因为他们希望与现实保持联系。他们尊重那些为了遏制人类傲慢而发展起来的规则和制度。

人工智能领域的有效利他主义者是否具备良好的判断力？人脑公司最近发生的安全问题，正由与老板在有效利他主义领域有亲朋好友关系的团体进行调查。人脑公司克劳德道德“宪法”的主要撰写者，长期以来在学术和个人层面都积极参与有效利他主义。在我看来，似乎没有多少外部力量能够制约这些人的选择。他们是否真正理解人类事务和人类生活，或许很快就会见分晓。

一如既往，我的希望寄托在我的学生身上。他们渴望用自己的天赋造福世界，这种精神令人钦佩。我告诉他们，首先要融入他们想要帮助的人群中去生活。然后，积累深厚的专业知识，并认真思考当一些巧妙的计划失败时，会给人们带来怎样的后果。如果想积累一些简单的生活经验，不妨参与地方政治，或者辅导邻居家有困难的孩子。

对于人工智能领域的有效利他主义者来说，这一切可能都为时已晚。他们的运动最终的遗产或许确实会以人类生命来衡量，只是方式可能与他们最初的设想截然不同。■

莱夫·韦纳是斯坦福大学的哲学教授，著有《血油：暴君、暴力和统治世界的规则》。