网易首页 > 网易号 > 正文 申请入驻

比“技术性失业”更恐怖的,是“技术性失智”

0
分享至



比“技术性失业”更恐怖的,是“技术性失智”

作者/慧超

(一)

“第一台超智能机器将是人类的最后一个发明,前提是机器要足以温顺到告诉人类,该如何控制它。”

作为一则预言,1965年英国数学家、密码学家 I.J. 古德的这句话,已经被众多科幻电影生动地演绎了一遍又一遍。



这句话亦可作为“智能爆炸”(intelligence explosion)这一概念的核心。这一概念认为,第一台超智能计算机的诞生,将意味着人类文明的黄昏:

因为它本身已经在智慧和知识储备方面超越了所有人类,而“超智能”意味着它无时无刻不在自我学习和认知迭代,所以它自己会自行设计并建造下一台更智能、更强大的“超智能计算机”。



从《终结者》到《我,机器人》中智能终端的觉醒和对人类的反控制,再到《机械姬》和《西部世界》中,智能仿生人的自我意识萌芽及对人类的反抗,所有这些科幻作品反复呈现的剧本,无非是I.J. 古德上面那句话的注脚。



在公众的认知中,如科幻电影中强大到足以终结人类的AI,仍是一件过于遥远的事。不过这并不妨碍每一次技术的升级,都能掀起一波舆论和公众心理层面关于“技术恐惧”的可怖想象。

ChatGPT的横空出世以及其所带来的技术层面“划时代”的跃升,同样引发了从学界到民间的“技术恐慌”。



“技术性失业”是一个古老的鬼故事,只是这一次,人类遭遇的这只名为ChatGPT的“厉鬼”确实神通广大。



ChatGPT确实称得上是“划时代的产品”,它第一次让公众跳出如Siri这类愚笨的“搜索式对话”的旧框架,重新想象AI的能力边界。

即便只是初代产品,ChatGPT已然能够通过硅谷年薪18万美金的工程师招聘考试。不仅如此,它还能帮程序员检查代码错误,甚至可以自己写一段代码,且没BUG。

ChatGPT不仅可以帮助小学生和中学生,数秒钟写出一篇措辞优美的命题作文,北密歇根大学一位学生,甚至依靠ChatGPT写出了全班最高分的论文。



美国西北大学的一篇研究论文显示,ChatGPT写出了令人信服的研究论文摘要,连人类科学家都难以分辨真假。



当然,作为一个襁褓中的“初生儿”,在很多方面ChatGPT依然很笨拙,很稚嫩,在相当多问题的回答中,它都表现的不尽如人意。

但它在未来的应用,以及对人类世界的影响,怎么高估都不为过。

(二)

我相当肯定,以ChatGPT为代表的新一代AI工具,在未来几十年之内,将相当深刻地改变人类社会和当下的职场分工。

但对于“技术性失业”这样一个已被摩挲到褪色的古老话题,我没有再次重复的兴趣。

大规模的技术性失业,确实是一个值得社会和政府关注的问题,但在我看来,这并不是最值得警惕的问题。

事实上,公众和舆论将太多精力聚焦在“技术性失业”之上了,以至于忽略了一个我认为更危险,更值得警惕的问题:

技术性失智。

我丝毫不怀疑,以ChatGPT为代表的AI工具,可以帮助我们更有效率地学习和工作,也能够帮助人类完成许许多多的“不可能之事”。



但是,是的我要说但是,一个强大的AI工具,它也可能变成一个舒服温暖且不自知的套子。

创造力、想象力、独立思考和独立判断的能力,会借助一个强大的AI工具获得质的飞升吗?

坦白讲,我对此持悲观态度。

我甚至认为,一个无比强大的,无处不在的AI工具,会反向降低个体的创造力、想象力和独立思考的能力,让这些稀缺的品质,更稀缺。

我并不是一个“技术悲观主义者”,相反,我愿意拥抱一切新技术和新创造。

但我仍呼吁社会和公众警惕某些技术可能带来的“危害性”,是因为我骨子里有些“人类悲观主义者”的钙质。

我总怀疑以人类惯有的疯批程度,某些伟大的技术革新,不一定将人类引至美好的伊甸园中,恰恰相反,它有可能因为人类本性的自私、狭隘、傲慢和贪婪,把我们推向“地狱”。

(三)

许多年前,《南方周末》刊发了一篇后来被誉为特稿典范之作的报道,文章的标题是一个宏大而模糊的词汇:《系统》。



这是一篇雄心勃勃的稿子。

它的好既不是揭露了某种不为人知的阴暗,也不是批判了某种需要巨大勇气才敢触碰的权力腐败。

后来这篇稿子获得了《南方周末》的最高荣誉“总编奖”,授奖词指向了这篇稿子真正的野心,它是这样写的:

“母词系统的深度发掘,不仅是对现实的有力映射,更是对新闻易碎品属性的一次挣脱。”

《系统》所着重描写的,是当时刚刚在中国大陆兴起的网络游戏,以及这些网游玩家们所处的世界。它所深入展现的那款游戏,相信每一个80后都不陌生,即把史玉柱再次送上富豪榜的网游“征途”。



这篇稿子以令人印象深刻的笔触,描写了游戏中那个无所不在的“系统”对人的驯化、异化和控制,“随着人民币的不断加速投入,和很多人一样,吕洋发现,金钱铸就的,其实是通往奴役之路。”

新闻当事人吕洋是游戏中的“国王”,为了保住这个虚拟的位置,她一个晚上开过上千个箱子,“一天不上线,就会觉得自己又落后了,实在太累了”。几万块人民币扔进去,连个响声都听不见。

这是一个向你承诺可以带来幸福、快乐、友谊甚至爱情的“新世界”,但当你沉浸于它,却发现那个你曾极力向往和拥抱的“新世界”,早已褪去梦幻般的光芒,展露出它真正的样子:

一间囚室。



这些人玩到最后,完完全全沦为了一种工具,非常可怜。吕洋现实中是医院的B超检查师,她甚至在医院的电脑里也下载了游戏客户端,以便在给患者检查的间隙挂机、升级。

这些人夜以继日,牺牲了巨大的时间、精力和金钱,成功地使自己变成了驱动游戏公司利润的一个齿轮。



至于曾经希望在游戏中获得的休憩、快乐和新鲜感,早已荡然无存,只剩下焦虑,虚荣,攀比,仇恨,和近乎无休无止的相互谩骂与PK。

这篇稿子是一个明晃晃的隐喻,不仅仅反映了网络游戏中“系统”对玩家的驯化和控制,它还指向了一种更宏大,更现实,更无孔不入且无法逃脱的“系统”。

“系统”对人的反驯化无处不在,这个系统可能是一种被精心设计的制度体系,也有可能是一种公众曾经欢呼拥抱的新技术。

(四)

回到那个问题:

人工智能的普及和应用,可以帮助我们更好的认识这个世界吗?能够帮助人类提升整体的智识观念吗?

坦白讲,我对此持保留意见,至少不那么乐观。

对于这一点,移动互联网对人群的影响和驯化,是一面骇人的镜子,殷鉴不远。

如果您是一位初代网民,我想一定会对刚刚接入到互联网的那段时光记忆犹新。

那真是一段闪烁着梦幻般光芒的时光,海量的知识和数据不断被传输到网络上,数不清的高知网友不求回报,日以继夜地在网络上贡献自己的知识、观点,中英文论坛上充斥着高质量的帖子和讨论……

第一代网友畅想着,在互联网真正普及的那一天,当每一个人都能方便、廉价地接入互联网,当每个人都可以平等地获取海量的信息与知识——

那整个人类社会的文明水平会获得质的飞跃,网络一定会开创人类文明史上第二次“启蒙运动”,观念的最大公约数将由自由、平等、包容、博爱的个体认知所构建。

如今这一天真的来了,无论你是身处北上广的地下铁,还是置身偏远山区的田埂间,每一个人都可以方便快捷地接入到4G网络中。

但今天的公众,整体的智识追求和观念水位,每个人内心里对自由、平等、包容、博爱的精神,比50年前读报纸的人,真的认识更高了吗?

昨天的新闻是,一位刚刚考上研究生的姑娘,因为把头发染成红色遭遇了汹涌的网络暴力,最终致郁而选择了自杀……



离谱吗?

我觉得照此发展下去,有一天“少女缠足美呆了,三寸金莲绝绝子!”要是冲上热搜,也不值得大惊小怪了。

我觉得,一位“五四运动”的前辈,如果穿越时光来咱们的微博上泡上几天,他一定会大惊失色,今天的人类可以方便快捷地在隧道和蓝天上连接互联网,但他们所参与的公共讨论,无论是话题质量还是话题深度,显然,都呈现断崖式的下降。



100年前五四新青年们探讨的话题,在今天非但没有取得更广泛的共识和更深刻的体悟。这些问题如果放在今天的互联网,反而变成十分勇敢,十分前卫,甚至十分激进的话题……

这不得不说是一个令人刺痛的讽刺。

(五)

这就是我想表达的隐忧:

在某个隐秘的维度上,相对于稀缺的图书馆和高昂的学费,廉价、平等和拥有海量知识的网络,非但没有“极大”提升个体的认知、观念和思考能力,反而将许多人驯化成了一只只傲慢、狭隘、闭塞的“井底之蛙”。



在社交媒体之上,人与人之间认知的差别,有时甚于人和狗之间的认知差距,它完完全全是一种跨物种的,无法沟通的,全然属于两个世界的认识水平。

对此,我想每一位热衷于网络冲浪的朋友都感同身受。

无论对于原子化的个体,还是作为一个整体的社会,我想我们需要警惕的,不是技术升级所导致“摩擦性失业”。

我们需要警惕的,是类似人工智能这样的技术爆炸,对公众的“反向驯化”,以及这种驯化可能导致的“认知灾难(观念滑坡)”。

即人的工具化,思维的懒惰、固化以及由此带来的群体认知失调和社会观念崩塌。



在一个空前强大的AI工具面前,在一个面对人类提出的问题,能够瞬间给予一个答案的“代脑”面前——

我不知道,我们距离真实是否会越来越近?

但我本能地怀疑,它极有可能反过来驯服我们,让我们离偏见、狭隘和自以为是,愈来愈近。

所以我说,真正值得警惕的不是技术性失业,而是技术性失智;真正的恐怖不是技术性致贫,而是技术性“致盲”。

这里是思维补丁,谢谢你的阅读。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
状元概率18.8%!火箭高居联盟第一,若拿下斯托克斯,强到离谱

状元概率18.8%!火箭高居联盟第一,若拿下斯托克斯,强到离谱

体育火锅T
2026-11-20 13:14:33
普京:克里米亚大桥遭袭后 不再讨论海上停火

普京:克里米亚大桥遭袭后 不再讨论海上停火

新华社
2026-11-20 03:13:04
专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

阿尔卑斯瞭望
2026-11-19 18:53:05
边冲冠边拿状元!火箭,你赢麻了!

边冲冠边拿状元!火箭,你赢麻了!

柚子说球
2026-11-20 18:17:52
台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

叶葉夜
2026-11-19 11:29:23
罕见一幕!两岸同日释放重磅信号,台海大势彻底明朗

罕见一幕!两岸同日释放重磅信号,台海大势彻底明朗

爱看剧的阿峰
2026-11-20 05:51:56
特朗普面对中国,有三个“不敢相信”。第一个不敢相信,是中国的“反常理性”,其次是中国的“扩张性”,而最难以置信的,就是稳定性了

特朗普面对中国,有三个“不敢相信”。第一个不敢相信,是中国的“反常理性”,其次是中国的“扩张性”,而最难以置信的,就是稳定性了

扶苏聊历史
2026-11-19 15:51:44
文班亚马32分11板马刺轻取快船,卡斯尔21+6+12加兰23分5助

文班亚马32分11板马刺轻取快船,卡斯尔21+6+12加兰23分5助

湖人崛起
2026-11-20 11:31:13
日本人早就看透了:一旦中日真开战,中国根本不是只算眼前这一仗

日本人早就看透了:一旦中日真开战,中国根本不是只算眼前这一仗

疯狂的小历史
2026-11-20 11:18:18
饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

大风新闻
2026-11-20 10:22:07
跟C罗什么仇什么怨?前队长都离开了,B费坎塞洛还作妖个没完!

跟C罗什么仇什么怨?前队长都离开了,B费坎塞洛还作妖个没完!

阿陆
2026-11-20 00:10:05
赖清德曾表示:大陆将台湾称为中华人民共和国台湾省、把台湾说成中国的一部分,而台湾一直是中国的一个省,这种说法从根上就站不住脚

赖清德曾表示:大陆将台湾称为中华人民共和国台湾省、把台湾说成中国的一部分,而台湾一直是中国的一个省,这种说法从根上就站不住脚

人生录
2026-11-20 00:15:04
深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

扶苏聊历史
2026-11-19 15:27:26
太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

火山詩话
2026-11-18 11:00:42
APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

三周檀的鲲
2026-11-19 19:55:46
华泰证券紧急辟谣:相关市场言论内容并非我司研究所相关人员发表,属于不实信息

华泰证券紧急辟谣:相关市场言论内容并非我司研究所相关人员发表,属于不实信息

蓝鲸新闻
2026-11-20 16:38:02
官方回复:成都又一家医院,停业了

官方回复:成都又一家医院,停业了

呼呼历史论
2026-11-20 12:54:33
红果当下最火3部短剧,榜首一集就把人看住了

红果当下最火3部短剧,榜首一集就把人看住了

乡野小珥
2026-11-20 03:04:06
震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

火山詩话
2026-11-19 06:08:24
已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

极目新闻
2026-11-20 15:22:02
2026-11-20 18:47:00
慧超的思维补丁 incentive-icons
慧超的思维补丁
既不温暖,亦难遮羞
520文章数 63850关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

房产
游戏
亲子
旅游
公开课

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

《奇怪的远征》开放Steam测试 正式版目标2027年推出

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

旅游要闻

美丽北京|一地鎏金引游人

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版