网易首页 > 网易号 > 正文 申请入驻

比“技术性失业”更恐怖的,是“技术性失智”

0
分享至



比“技术性失业”更恐怖的,是“技术性失智”

作者/慧超

(一)

“第一台超智能机器将是人类的最后一个发明,前提是机器要足以温顺到告诉人类,该如何控制它。”

作为一则预言,1965年英国数学家、密码学家 I.J. 古德的这句话,已经被众多科幻电影生动地演绎了一遍又一遍。



这句话亦可作为“智能爆炸”(intelligence explosion)这一概念的核心。这一概念认为,第一台超智能计算机的诞生,将意味着人类文明的黄昏:

因为它本身已经在智慧和知识储备方面超越了所有人类,而“超智能”意味着它无时无刻不在自我学习和认知迭代,所以它自己会自行设计并建造下一台更智能、更强大的“超智能计算机”。



从《终结者》到《我,机器人》中智能终端的觉醒和对人类的反控制,再到《机械姬》和《西部世界》中,智能仿生人的自我意识萌芽及对人类的反抗,所有这些科幻作品反复呈现的剧本,无非是I.J. 古德上面那句话的注脚。



在公众的认知中,如科幻电影中强大到足以终结人类的AI,仍是一件过于遥远的事。不过这并不妨碍每一次技术的升级,都能掀起一波舆论和公众心理层面关于“技术恐惧”的可怖想象。

ChatGPT的横空出世以及其所带来的技术层面“划时代”的跃升,同样引发了从学界到民间的“技术恐慌”。



“技术性失业”是一个古老的鬼故事,只是这一次,人类遭遇的这只名为ChatGPT的“厉鬼”确实神通广大。



ChatGPT确实称得上是“划时代的产品”,它第一次让公众跳出如Siri这类愚笨的“搜索式对话”的旧框架,重新想象AI的能力边界。

即便只是初代产品,ChatGPT已然能够通过硅谷年薪18万美金的工程师招聘考试。不仅如此,它还能帮程序员检查代码错误,甚至可以自己写一段代码,且没BUG。

ChatGPT不仅可以帮助小学生和中学生,数秒钟写出一篇措辞优美的命题作文,北密歇根大学一位学生,甚至依靠ChatGPT写出了全班最高分的论文。



美国西北大学的一篇研究论文显示,ChatGPT写出了令人信服的研究论文摘要,连人类科学家都难以分辨真假。



当然,作为一个襁褓中的“初生儿”,在很多方面ChatGPT依然很笨拙,很稚嫩,在相当多问题的回答中,它都表现的不尽如人意。

但它在未来的应用,以及对人类世界的影响,怎么高估都不为过。

(二)

我相当肯定,以ChatGPT为代表的新一代AI工具,在未来几十年之内,将相当深刻地改变人类社会和当下的职场分工。

但对于“技术性失业”这样一个已被摩挲到褪色的古老话题,我没有再次重复的兴趣。

大规模的技术性失业,确实是一个值得社会和政府关注的问题,但在我看来,这并不是最值得警惕的问题。

事实上,公众和舆论将太多精力聚焦在“技术性失业”之上了,以至于忽略了一个我认为更危险,更值得警惕的问题:

技术性失智。

我丝毫不怀疑,以ChatGPT为代表的AI工具,可以帮助我们更有效率地学习和工作,也能够帮助人类完成许许多多的“不可能之事”。



但是,是的我要说但是,一个强大的AI工具,它也可能变成一个舒服温暖且不自知的套子。

创造力、想象力、独立思考和独立判断的能力,会借助一个强大的AI工具获得质的飞升吗?

坦白讲,我对此持悲观态度。

我甚至认为,一个无比强大的,无处不在的AI工具,会反向降低个体的创造力、想象力和独立思考的能力,让这些稀缺的品质,更稀缺。

我并不是一个“技术悲观主义者”,相反,我愿意拥抱一切新技术和新创造。

但我仍呼吁社会和公众警惕某些技术可能带来的“危害性”,是因为我骨子里有些“人类悲观主义者”的钙质。

我总怀疑以人类惯有的疯批程度,某些伟大的技术革新,不一定将人类引至美好的伊甸园中,恰恰相反,它有可能因为人类本性的自私、狭隘、傲慢和贪婪,把我们推向“地狱”。

(三)

许多年前,《南方周末》刊发了一篇后来被誉为特稿典范之作的报道,文章的标题是一个宏大而模糊的词汇:《系统》。



这是一篇雄心勃勃的稿子。

它的好既不是揭露了某种不为人知的阴暗,也不是批判了某种需要巨大勇气才敢触碰的权力腐败。

后来这篇稿子获得了《南方周末》的最高荣誉“总编奖”,授奖词指向了这篇稿子真正的野心,它是这样写的:

“母词系统的深度发掘,不仅是对现实的有力映射,更是对新闻易碎品属性的一次挣脱。”

《系统》所着重描写的,是当时刚刚在中国大陆兴起的网络游戏,以及这些网游玩家们所处的世界。它所深入展现的那款游戏,相信每一个80后都不陌生,即把史玉柱再次送上富豪榜的网游“征途”。



这篇稿子以令人印象深刻的笔触,描写了游戏中那个无所不在的“系统”对人的驯化、异化和控制,“随着人民币的不断加速投入,和很多人一样,吕洋发现,金钱铸就的,其实是通往奴役之路。”

新闻当事人吕洋是游戏中的“国王”,为了保住这个虚拟的位置,她一个晚上开过上千个箱子,“一天不上线,就会觉得自己又落后了,实在太累了”。几万块人民币扔进去,连个响声都听不见。

这是一个向你承诺可以带来幸福、快乐、友谊甚至爱情的“新世界”,但当你沉浸于它,却发现那个你曾极力向往和拥抱的“新世界”,早已褪去梦幻般的光芒,展露出它真正的样子:

一间囚室。



这些人玩到最后,完完全全沦为了一种工具,非常可怜。吕洋现实中是医院的B超检查师,她甚至在医院的电脑里也下载了游戏客户端,以便在给患者检查的间隙挂机、升级。

这些人夜以继日,牺牲了巨大的时间、精力和金钱,成功地使自己变成了驱动游戏公司利润的一个齿轮。



至于曾经希望在游戏中获得的休憩、快乐和新鲜感,早已荡然无存,只剩下焦虑,虚荣,攀比,仇恨,和近乎无休无止的相互谩骂与PK。

这篇稿子是一个明晃晃的隐喻,不仅仅反映了网络游戏中“系统”对玩家的驯化和控制,它还指向了一种更宏大,更现实,更无孔不入且无法逃脱的“系统”。

“系统”对人的反驯化无处不在,这个系统可能是一种被精心设计的制度体系,也有可能是一种公众曾经欢呼拥抱的新技术。

(四)

回到那个问题:

人工智能的普及和应用,可以帮助我们更好的认识这个世界吗?能够帮助人类提升整体的智识观念吗?

坦白讲,我对此持保留意见,至少不那么乐观。

对于这一点,移动互联网对人群的影响和驯化,是一面骇人的镜子,殷鉴不远。

如果您是一位初代网民,我想一定会对刚刚接入到互联网的那段时光记忆犹新。

那真是一段闪烁着梦幻般光芒的时光,海量的知识和数据不断被传输到网络上,数不清的高知网友不求回报,日以继夜地在网络上贡献自己的知识、观点,中英文论坛上充斥着高质量的帖子和讨论……

第一代网友畅想着,在互联网真正普及的那一天,当每一个人都能方便、廉价地接入互联网,当每个人都可以平等地获取海量的信息与知识——

那整个人类社会的文明水平会获得质的飞跃,网络一定会开创人类文明史上第二次“启蒙运动”,观念的最大公约数将由自由、平等、包容、博爱的个体认知所构建。

如今这一天真的来了,无论你是身处北上广的地下铁,还是置身偏远山区的田埂间,每一个人都可以方便快捷地接入到4G网络中。

但今天的公众,整体的智识追求和观念水位,每个人内心里对自由、平等、包容、博爱的精神,比50年前读报纸的人,真的认识更高了吗?

昨天的新闻是,一位刚刚考上研究生的姑娘,因为把头发染成红色遭遇了汹涌的网络暴力,最终致郁而选择了自杀……



离谱吗?

我觉得照此发展下去,有一天“少女缠足美呆了,三寸金莲绝绝子!”要是冲上热搜,也不值得大惊小怪了。

我觉得,一位“五四运动”的前辈,如果穿越时光来咱们的微博上泡上几天,他一定会大惊失色,今天的人类可以方便快捷地在隧道和蓝天上连接互联网,但他们所参与的公共讨论,无论是话题质量还是话题深度,显然,都呈现断崖式的下降。



100年前五四新青年们探讨的话题,在今天非但没有取得更广泛的共识和更深刻的体悟。这些问题如果放在今天的互联网,反而变成十分勇敢,十分前卫,甚至十分激进的话题……

这不得不说是一个令人刺痛的讽刺。

(五)

这就是我想表达的隐忧:

在某个隐秘的维度上,相对于稀缺的图书馆和高昂的学费,廉价、平等和拥有海量知识的网络,非但没有“极大”提升个体的认知、观念和思考能力,反而将许多人驯化成了一只只傲慢、狭隘、闭塞的“井底之蛙”。



在社交媒体之上,人与人之间认知的差别,有时甚于人和狗之间的认知差距,它完完全全是一种跨物种的,无法沟通的,全然属于两个世界的认识水平。

对此,我想每一位热衷于网络冲浪的朋友都感同身受。

无论对于原子化的个体,还是作为一个整体的社会,我想我们需要警惕的,不是技术升级所导致“摩擦性失业”。

我们需要警惕的,是类似人工智能这样的技术爆炸,对公众的“反向驯化”,以及这种驯化可能导致的“认知灾难(观念滑坡)”。

即人的工具化,思维的懒惰、固化以及由此带来的群体认知失调和社会观念崩塌。



在一个空前强大的AI工具面前,在一个面对人类提出的问题,能够瞬间给予一个答案的“代脑”面前——

我不知道,我们距离真实是否会越来越近?

但我本能地怀疑,它极有可能反过来驯服我们,让我们离偏见、狭隘和自以为是,愈来愈近。

所以我说,真正值得警惕的不是技术性失业,而是技术性失智;真正的恐怖不是技术性致贫,而是技术性“致盲”。

这里是思维补丁,谢谢你的阅读。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曼联旧将:如果我妈妈像C罗母亲一样说话,我会阻止她!

曼联旧将:如果我妈妈像C罗母亲一样说话,我会阻止她!

罗吹终结者
2026-11-20 11:00:17
1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

磊子讲史
2026-11-12 11:43:36
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
广东一小伙借300万养怪鸟,3年没挣到一毛钱,第四年挣了6000万

广东一小伙借300万养怪鸟,3年没挣到一毛钱,第四年挣了6000万

天气观察站
2026-11-20 16:20:36
金融危机不是要来了,而是已经到来了:最先露馅的是黄金

金融危机不是要来了,而是已经到来了:最先露馅的是黄金

小陆搞笑日常
2026-11-20 16:00:23
28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

王老师你还好吗
2026-11-11 21:45:48
上海二手房一天838套:不是楼市发烧,是家庭在“换气”

上海二手房一天838套:不是楼市发烧,是家庭在“换气”

阿离家居
2026-11-20 06:48:22
油价大降!一夜塌跌,11月20日全国92,95汽油“大涨835元/吨”后,四季度涨幅或“全降下来”,下次11月26日调价,预跌460元/吨!

油价大降!一夜塌跌,11月20日全国92,95汽油“大涨835元/吨”后,四季度涨幅或“全降下来”,下次11月26日调价,预跌460元/吨!

猪友巴巴
2026-11-20 09:42:16
3-0!国乒男单再破8强魔咒:陈垣宇淘汰日本世界冠军

3-0!国乒男单再破8强魔咒:陈垣宇淘汰日本世界冠军

小小小白看世界
2026-11-20 16:43:31
泰国总理带夫人在深圳吃砂锅粥,再飙粤语:“好食,几好啊”!市民在街头“偶遇”:澳大利亚总理逛超市;墨西哥卫生部长华强北“扫货”

泰国总理带夫人在深圳吃砂锅粥,再飙粤语:“好食,几好啊”!市民在街头“偶遇”:澳大利亚总理逛超市;墨西哥卫生部长华强北“扫货”

极目新闻
2026-11-20 09:35:14
丁彦雨航当面向巩晓彬说声道歉,逍遥王称其交友不慎暗讽睢冉

丁彦雨航当面向巩晓彬说声道歉,逍遥王称其交友不慎暗讽睢冉

姜大叔侃球
2026-11-19 22:25:35
银行R2理财跌20%?比偏股基金还狠:这是危机前兆吗?你该如何应对

银行R2理财跌20%?比偏股基金还狠:这是危机前兆吗?你该如何应对

大胡子聊趋势
2026-11-19 20:12:06
为什么说不敢让孩子带同学回家,评论区里全是过来人的教训啊!

为什么说不敢让孩子带同学回家,评论区里全是过来人的教训啊!

另子维爱读史
2026-11-18 21:17:56
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
战事至此,乌克兰人已经看清,中国,才是俄罗斯唯一的救命稻草

战事至此,乌克兰人已经看清,中国,才是俄罗斯唯一的救命稻草

咸鱼金脑袋
2026-11-15 19:43:41
中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

讲者普拉斯
2026-11-19 21:44:27
断层第一!梅西霸榜美职联薪资,莱万、格子空降二三,北美联赛真成巨星养老池?

断层第一!梅西霸榜美职联薪资,莱万、格子空降二三,北美联赛真成巨星养老池?

友谊第一
2026-11-20 12:19:57
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
一声不响造七艘“航母”?美国终于明白,原来真正对手并非俄罗斯

一声不响造七艘“航母”?美国终于明白,原来真正对手并非俄罗斯

福禄表嫂
2026-11-19 16:13:38
明年起,要是房价继续下跌,中国50%的家庭或要面临3个问题

明年起,要是房价继续下跌,中国50%的家庭或要面临3个问题

老覃讲历史
2026-11-20 11:28:03
2026-11-20 18:32:49
慧超的思维补丁 incentive-icons
慧超的思维补丁
既不温暖,亦难遮羞
520文章数 63850关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
亲子
手机
旅游
教育

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝气人但是聪明的4个行为

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

无障碍浏览 进入关怀版