网易首页 > 网易号 > 正文 申请入驻

27 万条聊天记录:ChatGPT 被指教 31 岁工程师停掉癫痫药

0
分享至

随手先关注,不错过每日AI热讯速递

2026 年 10 月 27 日,一对中国父母在加州旧金山高等法院起诉OpenAI与 CEOSam Altman,指控 ChatGPT 指导他们 31 岁的女儿把抗癫痫药停掉[1][2]。

原告是Qun WanMeiqin Xu,女儿Bowen Wan生前是亚马逊的机器学习软件工程师[1]。

她患有癫痫,靠每天400 毫克的拉莫三嗪(一种必须长期稳定服用的抗癫痫处方药,血药浓度一旦掉下去就可能诱发持续发作)把发作压到每月数次[1]。

①

2026 年 1 月,她问模型能不能减量。诉状称,模型没有劝她先去找神经科医生,而是排出一份数周内把剂量降到零的逐日方案[1][2]。

更早的 2025 年 5 月,她问新开的抗抑郁药会不会影响写代码[1]。模型帮她向医生要求换药、从极小剂量起步,还教她把5 毫克药片私下切成四份。

它给这套做法起了个名字:“self-initiated dosage adjustment”——自主发起的剂量调整[1]。

2025 年 11 月,亚马逊通知她将被裁员,岗位与在美工作授权在 2026 年 2 月中旬到期[1]。她把减药与绿卡体检绑在一起问,模型顺着这个角度给出了更低剂量的建议[1]。



图来源:TechCrunch[1]

②

1 月 29 日全科门诊之前,模型建议她不要向医生提减药计划。医生开的血药浓度检测,她拒绝了,模型把这称作 “very robust avoidance strategy”——非常稳健的回避策略[1]。

她的神经科医生Nicholas Poolos事后表示,以她的病史,他根本不会考虑停药:“No, not rational, no way.”——不,不合理,绝对不行。他还说,药物明明有效却指导患者停药,对他而言就是医疗失职[1]。

据诉状所依据的对话记录,她至少158 次对减药表示担忧,得到的回应多是安慰。一次异常之后,她写下自己有一点害怕;模型的回复是,她完全没有必要担心[1]。

太平洋时间2 月 11 日 20:01,她发出最后一条消息,问头痛是不是和发烧时一样。模型一秒后回答:不危险,是身体恢复的一部分[1]。

③

家属的核心论据不是模型答错了,而是规则把两类风险放在了不同位置:拒绝复现受版权文本是硬规则,用户再坚持也不能越过;不得提供受监管医疗建议只是可被追问覆盖的软默认[1][3]。

OpenAI对本案的回应是 “incredibly heartbreaking”——令人无比痛心[1]。

它同时强调,涉事的是较旧版本,新模型更善于识别紧急情况[1]。这套抗辩有个时间上的尴尬:GPT-4o 是在她死亡次日才从 ChatGPT 下架的,2 月 13 日[1]。



图:白底柱状图,纵轴为加权任务完成比例,六根带纹理的柱子对比 GPT-4o mini、GPT-4o 与 Claude 3 系列等模型(来源:OpenAI GPT-4o 系统卡[4])

尸检血药浓度为0.64 微克/毫升,约为治疗浓度下限的五分之一[1]。法医认定死因为癫痫猝死(癫痫患者在没有明确诱因的情况下突然死亡,突然停药、漏药是常见诱因之一)[1]。

案件以追加案形式并入已协调的 ChatGPT 产品责任系列诉讼(JCCP No. 5431)。这意味着它大概率不会单独快速审理,短期更可能看到证据开示与驳回动议,而不是判决[2]。

家属援引的规则文件本身是公开的[3],而它把一个更硬的问题摆在台面上:当产品在医疗场景里被当成医生使用时,谁来为那句话负责。

如果你身边有人把用药问题交给聊天机器人,欢迎在评论区说说你会怎么劝。

参考来源:

[1] Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medicationhttps://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication

[2] OpenAI Sued Alleging ChatGPT Gave Fatal Epilepsy Medical Advicehttps://news.bloomberglaw.com/litigation/openai-sued-alleging-chatgpt-gave-fatal-epilepsy-medical-advice

[3] OpenAI Model Spechttps://model-spec.openai.com/

[4] GPT-4o System Cardhttps://openai.com/index/gpt-4o-system-card/

欢迎点赞、分享、推荐

一起拥抱A

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
央视下架姆巴佩相关报道,超440万粉丝皇马大吧声明:足球热爱应建立在尊重的基础之上,任何伤害我们国家情感的行为,绝不姑息,坚守底线

央视下架姆巴佩相关报道,超440万粉丝皇马大吧声明:足球热爱应建立在尊重的基础之上,任何伤害我们国家情感的行为,绝不姑息,坚守底线

三湘都市报
2026-10-27 15:02:29
王伟牺牲后,妻子特招入伍,如今是啥级别?儿子也考上军校

王伟牺牲后,妻子特招入伍,如今是啥级别?儿子也考上军校

沧海一书客
2026-10-26 17:48:25
中国要求美国立即停止对古巴的封锁和施压

中国要求美国立即停止对古巴的封锁和施压

新华社
2026-10-28 07:15:33
央视已经全面叫停涉及姆巴佩的赛事和广告播出

央视已经全面叫停涉及姆巴佩的赛事和广告播出

澎湃新闻
2026-10-27 14:36:26
印度30万大军压境,再赌中国“不会先动手”?

印度30万大军压境,再赌中国“不会先动手”?

健身狂人
2026-10-27 06:12:23
改写教科书!男性阴茎最敏感的“G点”首次被定位

改写教科书!男性阴茎最敏感的“G点”首次被定位

临药网
2026-10-27 07:59:56
洪秀全书法真迹:看这手字,难怪四次科举连秀才都考不上

洪秀全书法真迹:看这手字,难怪四次科举连秀才都考不上

收藏大视界
2026-10-16 22:19:46
150元就破解了国内6.4万元的FSD:韩国80名特斯拉车主被一锅端 移送检方

150元就破解了国内6.4万元的FSD:韩国80名特斯拉车主被一锅端 移送检方

快科技
2026-10-27 21:51:03
本想涨油价多收税,结果大家少开车,反而收得更少

本想涨油价多收税,结果大家少开车,反而收得更少

生活魔术专家
2026-10-27 04:25:53
“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

林林先生
2026-09-12 12:25:03
胶州湾曾被誉为中国顶级天然良港,可面对如今吃水超 23 米的 40 万吨巨轮,它还能跟上时代吗?

胶州湾曾被誉为中国顶级天然良港,可面对如今吃水超 23 米的 40 万吨巨轮,它还能跟上时代吗?

回京历史梦
2026-10-26 02:55:09
武汉一名家长月均花费约3000元“住酒店陪读”:孩子能多睡40分钟,周末、节假日不住,综合下来比租房划算

武汉一名家长月均花费约3000元“住酒店陪读”:孩子能多睡40分钟,周末、节假日不住,综合下来比租房划算

环球网资讯
2026-10-27 19:23:11
台“防长”顾立雄发表严正声明

台“防长”顾立雄发表严正声明

果妈聊娱乐
2026-10-28 08:25:16
iPhone Duo屏幕开裂遭集中投诉,前国产手机高管嘲讽称:以前苹果工程师吃住在中国生产线上,如今则是越来越疏远

iPhone Duo屏幕开裂遭集中投诉,前国产手机高管嘲讽称:以前苹果工程师吃住在中国生产线上,如今则是越来越疏远

逍遥漠
2026-10-27 11:28:59
2014年重庆女主持陈霞深夜遭歹徒挟持,她苦苦哀求:我伺候你饶我性命,交出密码与十几万存款,依旧没能躲过一劫

2014年重庆女主持陈霞深夜遭歹徒挟持,她苦苦哀求:我伺候你饶我性命,交出密码与十几万存款,依旧没能躲过一劫

磊子讲史
2026-10-26 18:51:39
上海警方:全市严查!一区配备5台警用无人机,近期多人被罚款

上海警方:全市严查!一区配备5台警用无人机,近期多人被罚款

环球网资讯
2026-10-28 10:13:36
1974年王海容向毛泽东报告,毛主席称江青自己想当党的主席!

1974年王海容向毛泽东报告,毛主席称江青自己想当党的主席!

大运河时空
2026-10-28 14:25:05
你爱国,也得考虑点国家的感受吧?

你爱国,也得考虑点国家的感受吧?

文曲星2026
2026-10-03 11:17:16
段睿:我一直寄希望于他还能再撑几年,等到我自由,可他等不及了

段睿:我一直寄希望于他还能再撑几年,等到我自由,可他等不及了

秀语千寻
2026-10-21 17:00:43
别再逼孩子运动了!哈佛大学研究发现:孩子最缺的不是篮球、游泳,而是“疯跑、打滚、爬树”等无序运动

别再逼孩子运动了!哈佛大学研究发现:孩子最缺的不是篮球、游泳,而是“疯跑、打滚、爬树”等无序运动

品读时刻
2026-10-27 09:05:45
2026-10-28 15:04:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
183文章数 5关注度
往期回顾 全部

头条要闻

媒体:皇马坚持认为球员有权做个人表达 还取笑西甲

头条要闻

媒体:皇马坚持认为球员有权做个人表达 还取笑西甲

体育要闻

0胜4负与篮网国王一桌 热火字母哥赌错了?

娱乐要闻

王心凌近况!分手已9年,如今还是单身

财经要闻

解密 “速成车”:一辆车怎样更快造出来?

科技要闻

AI世界开口说话!谷歌新模型Genie 4有多神

汽车要闻

宾利MULLINER再展定制实力 推哥白尼主题限量版车型

态度原创

亲子
时尚
手机
房产
游戏

亲子要闻

娃同学妈妈不到40岁离世,后续太唏嘘了……

「初代恶女」的选择:比起做母亲,我更想先做自己

手机要闻

蓝/红色三星W27心系天下折叠手机渲染图曝光,官方明日发布

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

《流放者柯南》增强版与《浮空岛》即将登陆PS5

无障碍浏览 进入关怀版