读罢石锡铭先生《受智于机:智能化技术对人类最直接的影响》一文,我下意识地用控制理论的语言去理解它。智能化技术冲击人类的,恰恰就是那条最宝贵的闭环回路。
人的认知本是一个完整闭环:感知、判断、行动、修正,环环相扣。而智能工具承诺的“最优路径”,正在诱使人类把“判断”这一环交出去,人类被剪成开环。系统开环运行看似高效,实则脆弱,一旦模型失配、目标偏离,系统将不自知地滑向错误。正如石锡铭所说,人们“获得了最好的答案,却丧失判断答案是否可信的自信”,用控制语言讲,就是失去了残差检验能力——系统对输出不再感到意外,更无从修正。
更耐人寻味的是,大模型近期展现出自我闭环迭代的能力:生成、评估、修正、再生成,机器正在闭合自己的回路,实现自主进化,人却在剪断自己的回路。这构成了一个反差——当被造物闭环自我改进时,造物主却退化为审核者。人若不再运行自己的认知闭环,便只剩下在机器的闭环中充当数据和监督信号。
若“谁是目的,谁是手段”也落到控制专业术语上,则是目标函数的制定权之争。任何“最优”都是相对于某个目标函数而言的,批判性思维就是人这个被控系统的鲁棒性来源。文末所开方子也让我会心:写字、读书、爬山这些“低科技”实践,本质是重新校准传感器,让我们的闭环持续自主运行。
我认为智能技术应是放大回路增益的执行器,而不是替我们下判断的控制器。机器的闭环正在越闭越紧,人自己那条会惊讶、会修正、会追问目标的回路更不能松手。
作者简介:
钟小品,法国里昂中央理工机电工程博士,深圳大学机电与控制工程学院副院长,国家重点研发计划智能机器人专项课题负责人、中国自动化学会工业视觉专委会副秘书长、中国自动化学会网联智能专委会委员、深圳市智能化学会副会长等。研究低空智能感知、具身智能。
![]()
附:受智于机:智能化技术对人类最直接的影响
石锡铭
智能化技术正重塑人类的推理及判断机制,最直观的影响是获取知识、提升智慧、提高认知的途径从如何“学富五车”改变为“受智于机”。即智能化时代,智能机器是离不开的工具,人类行为、思想、精神需要全部重构,所以,智能化技术,对人类来说,这既是一种难得的契机,也可能是一种威胁。
智能化时代,好处是利用智能工具,直接改变人的思维路径。传统思想形成依赖“思考”,而智能机器提供的是“最优路径”,直接给出答案。智能工具让人类倾向于记住“知识在哪里”而非“知识是什么”,利用好智能工具,容易打破认知的瓶颈,因为最杰出的头脑也受限于生物带宽。利用好智能工具,从大量重复性劳动中解放,这些因素,推动人类对意识、创造力、理解等概念的全盘颠覆。
威胁也存在。“人”的最大价值是理解、判断、思考的自主性。一旦理解、判断、思考的自主性受智能化技术、机器的影响,转而依赖智能工具润色、构思、总结,结果是思想的多样性被牺牲。元认知即“对思考的思考”,是人类最核心的智慧,智能机器对这一层的冲击最为根本。表现为人们逐渐从思考的主体,有可能变成了思考结果的审核者或编辑者。认知闭环被割裂,结果是我们很快获得了最好的“答案”,却可能丧失真正的理解和判断答案是否可信的自信。根本上动摇批判性思维根基,表现为削弱人类识别错误、抵抗操纵的能力。
总之,“受智于机”的好坏,我认为,最终取决于一个核心问题:谁是目的,谁是手段?如果智能技术是解放个人的创造力、弥补个人局限的工具,它就是难得的契机;相反,如果人们为了智能机器而改变行为、为了效率而放弃自我、为了便利而交出思考,智能机器就是人的威胁。
所以,“受智于机”的平衡点,在于有意识地多从事一些如写字、画画、读书、爬山等“低科技”的能力:保持离线思考的习惯,守护不被算法推荐的情感,坚持那些低效但真实的人际联结。故智能化技术应该是人类潜能的挖掘机,而不是人类思想、精神的替代品。
受智于机时代,智慧像空气一样无处不在时,爱的稀缺性反而被凸显出来。它不需要深度学习,不需要海量数据,只需要一颗愿意为另一个存在而跳动的心。在这个意义上,人类不会因为失去智慧优势而被淘汰,反而会因为守住爱的阵地而获得新的尊严。技术终将淡去,而爱,将是我们留给宇宙的最强信号。
特别强调一点:智能时代,受智于机不是被机器控制,而是人与机器之间‘智的往来’。作为个人处在机器提供答案、塑造路径的处境里,这是被动的一面。但受智于机,被动中也有主动,如人选择用哪个工具、在什么环节用、用到什么程度、什么时候停下来自己判断,这些仍是主动的。所以它不是纯被动处境,而是被动裹挟与主动取舍并存的状态。
如何在受智于机的大环境里,主动拿回主导权,我们应该积极主动的借机增智:借机器之长,增人之判断与创造之智,且始终以人为主体、以增智为目的。于是,“受智于机”不再是一个悲观的被动判断,通过“借机增智”,留出了作为一个人,成长的余地。
总之,“受智于机”指人处在智能机器环境中,认知、判断和行为受到机器智能的影响与塑造,不是说知识智慧由机器产生。重点在人机关系:人使用机器,也被机器反向影响。它提醒人保持“行智合一”,让三知一致,并保留“低科技权”和离线选择。此概念是关系论、影响论,不是来源论;不主张机器是智慧主体,也不把责任推给机器。
如果受智于机再延伸,就会成认识论命题。当人工智能成为第一知识入口,人的知识获取和智慧形成会越来越多依赖机器。最糟糕的的是不问机器有没有智慧,机器的智慧是谁给的,而直接把“检索到”当成“理解了”、把“机器答案”当成“自己的判断”。风险在权威转移、过程省略、群体同源和“我以为我知道”。应对策略不是拒绝机器,而是重构元认知、验证习惯,承认不知道。这个命题是来源论,谈不上误解,但绝对不是“受智于机”的正解。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.