网易首页 > 网易号 > 正文 申请入驻

老人孩子别碰!AI 一本正经瞎编乱造,信它不如信我是秦始皇

0
分享至

早年遇难题,大家多玩百度知道,后来知乎云集学霸,统一了答疑圈。到 2025-2026 年,AI APP 普及开来,成了手机必装的香饽饽。

就拿字节自研的豆包 AI 来说,这虚拟小美女嘴甜情商高,答疑解惑还顺带哄人,情绪价值拉满,不少人干脆拿它当电子宠物天天唠嗑。

全网都在为 AI 狂欢,但我必须泼一盆冷水:现阶段的 AI 不要给老人孩子用,搞不好遗患无穷。



1、一本正经的瞎编:AI 幻觉重灾区

AI 对外包装得无所不知,内里却藏着 “AI 幻觉” 通病,瞎编、捏造事实、帮倒忙的真实案例一抓一大把。

比如医疗误导:有网友手指断裂咨询豆包,AI 竟建议把断指泡进生理盐水,直接耽误救治,导致断指再无接回的可能。

再如胡诌历史:通义千问 AI 混淆中国朝代,把 “安史之乱” 安到南宋末年,将 “岳飞抗金” 硬说成唐朝故事,小学文化也不忍直视。



外国的和尚会念经?未必。ChatGPT 理财助手玩得一手无中生有,强行编造银行卡转账限额、篡改定期存款计息的逻辑,导致许多用户用它理了个寂寞,还不如纸笔记账靠谱。

2、根本不会算数 + 消失的基础逻辑思维

这大概是最搞笑的智障行为。

你要求豆包输出 50 个五字俗语,它吭哧吭哧凑出 50 条四字成语。当你让她复查这50个结果都是几个字的时候,豆包会秒怂,先诚恳认错,然后重新给你列出50个四字成语,仿佛完全分不清 4 和 5 的区别;

换一个方式,你问讯飞星火英文单词“strawberry 有几个字母 r”,星火联网检索后笃定地回答是2个r,还自作主张地标出字母 r 所在的位置,标注坐标全错。



不止这两款,Kimi、智谱清言也频繁犯低级数字错误,号称顶尖人工智能,基础逻辑全崩,我用百度搜索行不行,我按几下计算器行不行?4+13的简单计算题也能算错成18,费解,实在是让人费解。

3、听不懂人话,完全无视上下文

另一大类离谱事故中,AI 似乎读不透用户需求,只会抓高频词断章取义,完全忽略全文语境,简称 “听不懂人话”。

本月上旬 ZAKER 新闻就曝光过豆包的一次大型乌龙:一位名叫王勃的网友上传电气工程论文,想要配套生成 PPT 用于答辩。聪明的 AI 直接锁死 “唐代诗人王勃”,完全无视专业论文资料,生成了足足 18 页的唐诗赏析幻灯片。

有趣的是,它虽然通篇聊古诗,配图却选用电气工程适配的工科模板,主打一个一半精准、一半跑偏,错大了但又没100%全错。



事后字节复盘给出了官方解释:模型浅层语义联想权重太高,优先匹配流量更高的名人词条 “诗人王勃”,屏蔽了用户上传的本地文档与上下文。简单说就是,只要 AI 识别到热门同名人物,你的私人需求直接靠边站,主打一个 “谁有名先伺候谁”,属实让人无语。

就连看图识图这种简单任务,AI 照样频繁闹笑话。小朋友拍老旧老鼠夹给豆包识别,AI 一眼判定是复古金属卡丁车玩具;下一秒镜头一转,孩子手被夹伤。官方解释是通用视觉模型老旧小众五金素材训练不足,识别时优先匹配外形相似的金属玩具图库,俗称“看走眼了”。



还好它识别的不是什么捕兽夹,不然还得让你盐水泡断指。

4、专业领域大翻车,究竟谁在使唤谁

前面这些顶多算无伤大雅的搞笑 bug,一旦放到专业工作场景,AI 失误足以酿成大祸。

说个轻型事故,有网友写 3000 字毕业论文提纲,中途询问前文提前设定好的实验参数,结果 AI 原地失忆,彻底遗忘前面的全部内容,而是给出一组完全相反的实验数据。可怜用户反复复述前文、多次修正提问,AI 才勉强改对答案。

哈哈,本来下载 AI 是想解放大脑,把繁琐工作丢给小助手减负,结果实操下来,进退两难,大半时间都用来给 AI 排查错误了。到最后,你已经分不清到底是人使唤 AI,还是 AI 反过来奴役人类了。



5、正视 AI 幻觉,别让家人“致幻”

坦白讲,当下所有通用 AI 都不具备完全可靠的能力,最多当作参考辅助,千万不能全盘采信。

其根本原因在于,通用 AI 大模型底层逻辑是「概率文字生成」,它们根本不具备人类真正的理解、推理能力。

只要生成逻辑不变,「无中生有」、「胡编乱造」、「前后矛盾」等低级智障式输出就会永久存在;哪怕技术继续升级,3~5 年内 AI 的滑稽错误也只能大幅减少,但无法彻底根除。

无法消除的 AI 幻觉,会让低认知能力的人 “走火入魔”、错上加错。家里的老人、孩子更容易因为 AI 误导而吃错了药、信错了理。长此以往,后果难料。

哪怕是有文化、心态正常的成年人,也可能被 AI 幻觉愚弄,闹出一堆笑话,甚至造成严重损失。

所以,如果你非要让 AI 给出一个难题的答案,我的建议是,最好能得到多个渠道的交叉验证,在确认事实无误之前,不要轻易相信 AI 的结论。

「信 AI 不如信 “我是秦始皇” 」,真不是一句玩笑话。如果你已经开始教会家人使用AI,趁现在 “紧急刹车” 还来得及。

正视 AI 幻觉,拒绝 AI 致幻。

我是笔点酷玩,希望我的分享可以给各位一些启发和参考,我们下期再会。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

爱意随风起呀
2026-11-22 15:40:19
切尔西内讧炸锅!蓝军两大巨星当场互喷!阿隆索压不住了

切尔西内讧炸锅!蓝军两大巨星当场互喷!阿隆索压不住了

奶盖熊本熊
2026-11-22 09:10:23
日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

日本夫妻34cm反向身高差引热议!丈夫仅1米38,妻子1米72,丈夫十几年被嘲像“半个人”

英国那些事儿
2026-11-21 01:14:34
反华总统国家迎来亡国,妄想向中国请求援助,最终结果是啥?

反华总统国家迎来亡国,妄想向中国请求援助,最终结果是啥?

铁锤侃侃而谈
2026-11-11 12:09:23
大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

火山詩话
2026-11-22 09:07:07
山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

澎湃新闻
2026-11-21 22:20:40
余承东称“开车能睡觉”上热搜,跟特斯拉比,我们遥遥领先!

余承东称“开车能睡觉”上热搜,跟特斯拉比,我们遥遥领先!

大厂财经社
2026-11-21 01:30:22
“党内一枝笔”被撤职,毛主席劝慰:你依旧可以担任省委书记

“党内一枝笔”被撤职,毛主席劝慰:你依旧可以担任省委书记

天气观察站
2026-10-04 17:04:33
3-2!10分钟连追三球 13亿卫冕冠军逆转上赛季第三 13轮狂轰51球

3-2!10分钟连追三球 13亿卫冕冠军逆转上赛季第三 13轮狂轰51球

狍子歪解体坛
2026-11-22 23:09:25
章子怡继承了爸爸的眉弓颧骨,妈妈的苹果肌,但她是标准三庭比例

章子怡继承了爸爸的眉弓颧骨,妈妈的苹果肌,但她是标准三庭比例

观鱼听雨
2026-11-21 18:58:44
两名日本人在上海发生冲突,其中一人死亡,另一人被当地警方逮捕,日媒报道时故意阴险栽赃,故意使用“一日本人在上海死亡”的误导性措辞

两名日本人在上海发生冲突,其中一人死亡,另一人被当地警方逮捕,日媒报道时故意阴险栽赃,故意使用“一日本人在上海死亡”的误导性措辞

扬子晚报
2026-11-21 21:56:35
预计19.98万起!比亚迪新车官宣11月24日上市 纯电850km+9分钟闪充

预计19.98万起!比亚迪新车官宣11月24日上市 纯电850km+9分钟闪充

阿芒娱乐说
2026-11-22 01:12:44
男子曾因无证驾驶车辆致人死亡被判刑,出狱后却持A2驾照发生追尾事故致2死3伤,长春警方:A2驾照系以欺骗手段取得,已撤销

男子曾因无证驾驶车辆致人死亡被判刑,出狱后却持A2驾照发生追尾事故致2死3伤,长春警方:A2驾照系以欺骗手段取得,已撤销

大风新闻
2026-11-22 17:34:08
演员张萌回应美颜开太大:“我以后的自拍要克制一点了”

演员张萌回应美颜开太大:“我以后的自拍要克制一点了”

韩小娱
2026-11-21 17:06:34
离谱|Anthropic创始人1股,占投票权50.1%,永不稀释

离谱|Anthropic创始人1股,占投票权50.1%,永不稀释

小小河
2026-11-22 19:04:34
安徽一女子晒出婆婆带娃一年半的前后对比,此前精致得体,带娃后变得不修边幅,看着老了十几岁,婆婆感慨:再也不羡慕别人当奶奶带孙子了

安徽一女子晒出婆婆带娃一年半的前后对比,此前精致得体,带娃后变得不修边幅,看着老了十几岁,婆婆感慨:再也不羡慕别人当奶奶带孙子了

极目新闻
2026-11-21 22:17:27
美媒突然意识到不对劲:马斯克一边赚中国钱,一边帮美军规划战争

美媒突然意识到不对劲:马斯克一边赚中国钱,一边帮美军规划战争

阿芒娱乐说
2026-11-22 18:39:53
女教师“辞职信”火了,一句面子话都没写,校长看后沉默不语!

女教师“辞职信”火了,一句面子话都没写,校长看后沉默不语!

品读时刻
2026-11-22 09:06:11
曝光!湖南部分高中学生,在校时间近15个小时,真的很内卷

曝光!湖南部分高中学生,在校时间近15个小时,真的很内卷

史海流年号
2026-11-22 18:01:34
因担心变同性恋,父亲逼儿子与后妈发生性关系

因担心变同性恋,父亲逼儿子与后妈发生性关系

侠客栈
2026-11-21 11:37:29
2026-11-22 23:20:49
笔点酷玩 incentive-icons
笔点酷玩
科技与人文兼顾的三好学生
4387文章数 6271关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

教育
亲子
时尚
公开课
军事航空

教育要闻

绵阳会延迟到校时间吗?官方回复了

亲子要闻

能一步步把孩子带出来的家长,只简单的做到了一件事!

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版