537.98元被AI算成538元，鹅厂员工集体吐槽AI糊弄现场

被AI一本正经地“骗”过，是什么体验？腾讯程序员最近在内部发起了一个话题征集，邀请员工分享自己被AI带偏的离谱经历。从报销金额对不上账，到一年级数学题被编成家庭伦理剧，再到代码包根本不存在却能正常运行——这些真实案例，把AI“装懂”时的各种翻车现场暴露得明明白白。

一位做财务分析的员工吐槽，AI在处理发票报销金额时，总喜欢把数字四舍五入。537.98元被自动汇总成538元，账目怎么都对不上。另一位交易支付部门的同事则遇到了更离谱的事：问AI“小明有5个苹果，吃掉2个，送给小红1个，还剩几个”，AI笃定地回答“7个”。追问逻辑时，它当场编了一个完整故事——小红过意不去还回来、小明又从冰箱拿了4个。一道一年级减法题，被AI写成了一部家庭伦理剧。

AI的“系统性可信”假象

风控算法工程师qinshu分享的经历，揭示了AI幻觉最危险的一面。他做配置Agent早期原型时，让AI帮忙查内部知识库里的规则字段映射关系。AI洋洋洒洒列了一张表，字段名、类型、枚举值、关联标签一应俱全，还贴心地标注了“来源：XX系统配置文档3.2节”。结果第二天跟后端对了半小时接口，怎么都对不上——那个字段根本不存在，枚举值是编的，引用的“3.2节”讲的是完全不相干的内容。

“它不是复制错了，是自己从头到尾创造了一整套看起来很内行的术语。”qinshu总结出一个让他后背发凉的规律：AI不是在“出错”，是在“用可信度最高的方式输出幻觉”。最危险的地方不是乱说，而是乱说的时候会主动配齐所有让你觉得“应该靠谱”的证据——字段名、类型、枚举值、引用来源，每个环节都让你觉得“这么完整应该不会乱编吧”。这种“系统性可信”的假象，比单纯答错可怕得多。

版本混淆与“部分正确”的陷阱

后台开发工程师coty遇到了一个更隐蔽的问题。问AI“HashMap和ConcurrentHashMap哪个快”，它自信回答“HashMap更快，因为ConcurrentHashMap加锁有开销”。再追问“多线程下用HashMap会怎样”，它回答“可能导致数据丢失或死循环”。这句对了一半——JDK 1.7是链表头插会死循环，JDK 1.8改成尾插加红黑树后不会死循环，只会丢数据。AI把两个版本的行为混在一起说，听起来却像教科书一样顺，让人以为它真懂，踩坑了才发现版本都没分清。

前端开发jlin把这种现象概括为“部分正确”的模糊地带：“AI可能前八句都是准确的，第九句开始悄悄跑偏，第十句给你一个合理但错误的结论。没有知识背景的人很难察觉，因为它前面建立的可信度会自动覆盖那个拐点。”他给出的使用建议是：拿AI当初稿生成器，而不是最终答案。方向可以参考，细节必须自查。

不存在的代码包与“补全”的默契

行业应用工程师albert分享了一段实习期间的经历。Code Review时，导师代码里有一行import { validateEmail } from "email-validator-pro"——这个包他没见过。问导师，导师说“Cursor自动补全的啊，看着挺专业的就用了”。再问npm install过吗，导师愣住了：“好像……没有？但代码能跑啊……”去package.json一看，果然没有这个依赖。代码能跑是因为项目里另一个包恰好导出了同名函数，阴差阳错地“替”它干了活。

“我们这次运气好。但如果这个‘不存在的包’真的被人注册了呢？如果里面藏着恶意代码呢？”albert提到，这种攻击正在发生——有专门的黑客组织叫“Slopsquatter”，套路就是观察开发者常用的包名，然后注册相似名称的恶意包，等AI自动补全时“碰瓷”。

AI爱“补全”，人爱“省事”

财务分析helen从另一个角度解释了为什么人会栽在AI手里：“AI天然爱‘补全’，人天然爱‘省事’。你说半句，它补半句；你不想细想，它就替你想。两边一拍即合，错误就藏在‘默契’里。”她分享了一次让AI帮忙改会议时间的经历——AI输出了一长串推理：先确认“明天”是几号，再纠结是北京时间还是用户心理时间，最后考虑到用户上周推迟过两次，心理时间大概率比北京时间慢17分钟，应该默认15:17比较稳妥。最终回复：“已为您将会议改至‘猫京时间明日下午三点（人类梦境时段）’，并向参会猫致歉附鱼三条。”

管线系统开发mcfish则遇到了“真实作者+虚构书名”的拼接式幻觉。让AI推荐冷门领域的入门书，它列了五本，书名、作者、出版年份都齐，还配了推荐语。按图索骥去找，一本都买不到——作者是真的、领域是对的，但那个人根本没写过这本书。AI把真实作者和一个听起来很像那个领域的书名拼在了一起。

lxin的经历更让人哭笑不得。让AI查一个bug，连续二十几次回答的开头分别是：“关键发现！”“找到真正的根因了！”“补丁已生效！”“重大进展！”“关键转折！”“找到关键配置问题了！”“调查有了反转——需要修正方向。”“关键突破！”“成功了！”“发现重大线索！”“真实复现了！”“重大发现！”“抓到关键线索！”“抓到了决定性证据！”——最后结论是：连12KB的小图也照样崩溃，手动起的vllm处理这张图完全成功，pty假说也推翻了。

AI糊弄的底层逻辑与应对姿势

这些案例背后，是AI语言模型的工作机制决定的。它本质上是预测下一个词的概率模型，目标是生成“看起来合理”的文本，而不是“验证事实为真”。当训练数据里没有对应信息时，它会用最流畅的方式“编”一个答案，并且会主动补全所有让答案显得可信的细节——字段名、引用来源、出版年份，这些“证据”都是为了让输出看起来更专业。

多位鹅厂员工给出的应对策略高度一致：把AI当“初稿生成器”而非“最终答案”。方向可以参考，细节必须自查。工具越强大，使用者的判断力越要跟上。具体来说，涉及具体数字、版本差异、代码依赖、引用来源时，都要多问一句：这真的存在吗？

一位员工总结得很到位：“AI最可怕的是出错的时候，比你想象的更懂怎么让你信。”对一个明显离谱的回答，人会立刻警觉；但对一个格式完美、来源标注、还跟认知框架吻合的回答，第一反应是信任。这种“系统性可信”的假象，才是AI糊弄人最深的坑。