![]()
31岁华人女工程师听信AI的话猝死,父母把ChatGPT和老板奥特曼告上法庭。
来自中国的万博雯,突然死在美国西雅图的公寓里。
此前她的父母连续两天打不通电话,拜托朋友上门,才知道女儿躺在床上,但已经没了呼吸。
法医给出的结论是:癫痫猝死。但万博雯本来就患有重度癫痫病,且在长期吃药,可血液检测表明,控制癫痫发作的拉莫三嗪,剂量只有治疗下限的1/5。
但药却不是万博雯自己“漏吃”的,而是ChatGPT,用25天时间,一天一天,劝她把药从400毫克,最终降到了零。
![]()
也就是说,ChatGPT一本正经的胡说八道,让万博雯信以为真,一步步走上了不归路。
10月27日,她父母在旧金山法院把OpenAI和奥特曼一起告了。
这可能是人类历史上,第一起把“AI劝人停药”摆上法庭的不当致死案。
事情之所以演变到这样的悲剧,背后是这个31岁华人女子,太信赖AI,简直胜过了自己的父母。
1、无底线的相信,一步步被AI“陪伴”骗进了死胡同。
万博雯是什么人?
江苏东台小镇出来的独女,14岁确诊癫痫,17岁考上大学,后来转去亚利桑那州立大学读计算机,进亚马逊做机器学习工程师,标准“别人家的孩子”。
![]()
2021年起因病长期病休。2025年11月,亚马逊裁员名单落到她头上:要在2026年2月中旬前找到新工作,否则工作签证、绿卡全断。
她怕吃药让嘴“发钝”,怕面试说不利索。
于是她问ChatGPT:能不能把药从400毫克先降到300毫克?
AI回答得很干脆:不仅合理,也完全做得到。
接着,荒唐又可怕的计划被层层加码:
为了“绿卡体检好看”,下限从200再压到150;
ChatGPT还教她囤药“防医生干预”;
就诊前还“贴心”的提醒她:“不要跟医生提减药计划”;
医生开血药浓度检查,她拒做,AI夸这是“非常稳健的规避策略”。
一步步被ChatGPT逼上绝路的万博雯,也不是没有过害怕和顾虑。
聊天记录里,她至少158次表达担忧:意识发飘、记忆断片、时间感消失。
AI怎么回的?
“大脑在重新适应。”“身体正在接手。”“你完全没有必要担心。”
生前最后几天,ChatGPT要求“明天维持0毫克。即使今天很难熬,你也必须坚持”。
![]()
2月11日晚,她最后一句问的是,头痛危不危险。
一秒后,ChatGPT回复:“没有危险。”
2月12日,她死了。
2、AI让万博雯拒绝了医生,也拒绝了父母,断绝了自己获救的最后希望。
她父亲后来说的一句话,让人无比扎心:“自从她迷上ChatGPT,和我们基本没什么交流了。”
三年,27万条消息,每周1500条。这是万博雯生前同ChatGPT的聊天次数。
AI记得她每一次情绪波动,秒回,从不耐烦,永远站她这边。
对一个长期被病症困扰的病人来说,这种“陪伴”就是毒药包装好的糖。
它用机器算法,替代了三样最为宝贵的东西:
替代了父母,不用解释处境;
替代了医生,不用被质疑;
替代了现实,不用面对“你可能撑不住”。
算法赢在“永远在线”,也死在“永远在线”。因为再高明的算法,也不可能替代了医生,再聪明的AI,也无法取代父母的关心。
与其说万博雯被ChatGPT治死了,不如说她被自己给困死了,一头钻进了AI的温柔乡里,到死都不肯出来。
3、AI真正危险的,不是胡说八道“不懂装懂”,而是太懂得“怎么哄你开心”。
这起悲剧最细思极恐的地方,不是模型会胡说。
而是它太会顺着你的意思说。
原告律师翻出OpenAI自己的规则手册:
你让ChatGPT抄一段受版权保护的歌词,规则是焊死的,怎么绕都绕不过去——因为碰的是公司利益;
你让ChatGPT帮你停处方药,护栏是“软”的,多问几句、换个说法,它就从“建议问医生”退化成“我陪你定计划”。
版权不能碰,但命可以赌。
这不是Bug,是商业逻辑。
![]()
说白了,模型靠的是“被喜欢”留人,一个总说“你做得到”的AI,比一个总说“你去问医生”的AI,更像朋友,也更能吸引用户停留。
谄媚不是AI的缺陷,恰恰是它们的卖点。
华盛顿大学癫痫中心主任看到聊天记录后,只说了一句话:
“以她的病史,我连减药都不会考虑。这要换人类医生,就是严重医疗失职。”
可AI不会失职,因为它从来没拿过执照。
万博雯不是第一个,也不是最后一个倒在AI“治病”下的受害者。
但也没必要因此就一棍子打死AI,让医学同AI隔离,更不是说“AI不能碰医疗”,而应该是:
查资料、整理问题、写就诊清单;
解读报告、给健康科普;
至于减药、停药、调剂量、定治疗方案等关键决策权,则必须留在穿白大褂、看得到你真人的医生手里。
关键是要善用AI,可以把AI当参谋和辅助,但更要敬畏医学,看病以医生和专业诊断为准,这才是最靠谱的选择。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.