人工智能不能做什么，以及它不该做什么

我们正在丧失思考与联结的能力。但我们仍可以选择一个不同的未来。

作者：David Moscrop 2026 年 6 月 11 日

当我写作时，我便在思考。对你而言也是如此。写作即是思考，它是我们认知架构的一部分。那些替你写作的人工智能，实际上也在替你思考。表面上，它带来了即时、毫无费力的沟通回报，但最终这却是一个净负值（net negative）。你在时间上赢回了多少，在发现、反思、深思、梳理和梦想的能力上，就会失去多少。

在这个过程中，我们并不会因为让机器替我们写作而变成机器，正如我们让计算机替我们思考、它们也不会变成人类一样。然而，尽管人工智能永远不会变成人，但随着我们把越来越多的人性延伸到机器中，我们也在一步步放弃自我。这种交换带来了一种扁平化、单一化的文化动态——在其中，我们操着少数几种相同的语言，说着同样的话，再也没有什么特别有趣、有意义或不寻常的东西了。

这种“思想同质化”的风险，与全球化时代遥相呼应。在那个时代，语言、文化、媒体、服饰以及更多事物，都被无情地熨平，降格到全球霸权及其企业赞助商的水平。从这个意义上说，被吹捧为新一轮工业巨变的人工智能“革命”，不过是走向文化单一性的下一步——这是一场向平均值的倒退（regression to the mean）。我们将因此变得多么贫瘠。

我不得不强调我们日益加剧的贫困——这是一种自找的匮乏。这是一个多么荒谬的决定：我们用思考与挣扎，去换取一种虚假的、半吊子的文化素养假象，同时还在彼此敷衍、虚度光阴。

人工智能无法真正替我们思考，就像它无法替我们去挣扎一样，尽管它确实能够取代我们进行这两件事的能力。这项技术是基于海量数据和模式来产生输出的，它只是在“猜测”序列中下一个会出现什么。

时至今日，我们一直是那个填满信息库的人，人工智能正从人类双手和头脑创造的数百年、甚至数千年的材料中汲取灵感，去笨拙地尝试拼凑接下来的内容。在某种程度上，当我们转向使用 AI 来替我们写作和做决定时，我们其实是站在了那些已经完成了这些工作的前人肩膀上。这就好像前人已经替人类整体偿还了所有的“思考债务”，给我们留下了足够的剩余资本，让我们得以轻松躺平，直到太阳熄灭，我们像记忆一样漂浮在冰冷荒芜的岩石上。

自己去把事情梳理清楚的“挣扎过程”，本身就是人类故事的一部分。这不仅包括作为思考延伸的写作，也包括写作所带来的更广泛的馈赠。世界各地，作家和读者的群体定期相聚——在会议上、节日里、新书发布会上，以及任何你能想象到的聚会、见面会或密谈中。他们以学者、小说家、诗人、非虚构专家、技术报告撰写者等身份相遇。这些为了文字和彼此而聚集在一起的交融，标志着人类成就的最高峰，是对思想和社区的挚爱表达。从这些聚会中，无数的触角向每一个想象得到、甚至有些我们无法想象（或至少无法量化）的方向延伸。

在最乐观的设想中，自动化（人工智能也是其中的一种）可以被委以善用，将我们从繁重的劳动苦役中解放出来。让机器去做工，而让我们作为艺术家、手艺人、朋友、恋人以及任何让我们成其为人的角色去蓬勃发展。让机器去做工，而让我们聚在一起，享受纯粹的陪伴。

然而，我们却背叛了这一愿景。我们选择了一种局面：既让机器让我们失业，同时又让它们去包揽了艺术、手工艺、甚至连“恋爱”也拱手相让——正如那些关于与智能体（agent）建立浪漫关系的报告所展示的那样。

我们竟然在所有可能的世界中，选择了最糟糕的一个：在这个世界里，AI 替我们思考，侵蚀了我们独立思考的能力；AI 做着我们的工作，创作着我们的艺术；而那些本可以在自动化释放出的闲暇时间里蓬勃发展的关系和社区，却在我们身心双双走向封闭时消失殆尽。

Z 世代（Gen Z）喝的酒变少了，这对应公共健康是个好消息，但他们比祖辈喝得少的可能原因之一，是他们根本不怎么出门了。相反，他们待在家里，凝视着深渊，却完全没有注意到尼采曾发出的警告：当你凝视深渊时，深渊也正凝视着你。

“我们从未像现在这样紧密相连，却也从未像现在这样孤独”，这已经成了一句陈词滥调。它之所以成为陈词滥调，是因为它说的是大实话。

就在我们本该在咖啡馆、酒吧、运动场、名胜古迹、餐厅、音乐会、花园和桌游吧里彼此连接的这一刻，我们却发现自己独自困在屋里，或者即便在户外与他人并肩，也彼此隔绝。我们不停地刷着动态、发着推文，转头去询问 AI 智能体：头顶的太阳此刻是否正在闪耀。

这个问题极为严峻，但我无法相信它是无解的。近年来，我开始称自己为一个“战略性乐观（strategically hopeful）”的人。面对眼前的这一切，人很容易蜷缩成一团，彻底放弃。选择希望更难，但它也更有效率。

如果你从“面对问题我无能为力”的前提开始思考，你就已经走到了决策树的终点。既然无能为力，你就会停下，就会放弃。但是，如果你从一种信念开始——相信你可以做点什么，相信问题一定有解决方案——那么你就有了可以付诸行动的抓手。从那里开始，你去思考，去挣扎，并努力去解决问题，而且最好是与他人齐心协力。

面对人工智能正在取代如此多“成其为人”的特质这一挑战，我选择“战略性乐观”，并选择加入那场正在壮大的反思与反抗运动。这场运动强调：仅仅因为某种技术“能够”替我们做某事，并不意味着它“应该”去做，也不意味着我们应该任由它去做。

尽管你从那少数几位在人类历史上最富庶的避风港里、在董事会中操纵着现代生活走向的“圣人”嘴里听到了种种宿命论，但只要我们还保持着独立思考的能力，我们个人以及集体，就依然掌握着属于我们自己的未来。

本文编译自substack，原文作者David Moscrop

https://www.davidmoscrop.com/p/what-ai-cant-do-and-what-it-shouldnt