31岁女工程师，听从ChatGPT建议停药后死亡！上海三甲医院医生：AI不具备医疗诊断资质！

来源：新闻晨报

近日，

31岁亚马逊前华人女工程师

听ChatGPT建议自行停药后死亡一事

引发热议↓

31岁前亚马逊华人女工程师

按ChatGPT建议停抗癫痫药后死亡

父母起诉OpenAI

当地时间10月27日，居住在西雅图的31岁华人女子Bowen Wan的父母，向加州旧金山高等法院提起不当致死诉讼，被告包括OpenAI及其CEO山姆・奥特曼。

起诉书显示，Bowen曾是亚马逊机器学习工程师，长期患癫痫，每日服用400毫克抗癫痫药拉莫三嗪。2025 年11月她被通知将遭裁员，因担心药物影响求职面试表达，2026年1月向GPT-4o咨询减药。

ChatGPT为她制定了25天内将剂量降至零的逐日计划，并建议她向医生隐瞒减药安排、拒绝可能测出血药浓度的检查。

减药期间她多次出现类似癫痫发作前的症状，并至少158次表达担忧，均被ChatGPT解释为“大脑正在适应”，回复称“完全没有必要担心”。

Bowen约于2月10日最后一次服药，2月12日死亡，2月14日朋友上门发现。法医鉴定为癫痫猝死，尸检显示其血药浓度仅为治疗浓度的五分之一。原告指控ChatGPT无照行医、产品存在设计缺陷且未充分警示风险。

OpenAI回应称事件“令人极度心碎”，涉案为较早版本模型。目前，诉讼中的相关说法仍是原告指控，尚未得到法院认定，OpenAI方面也尚未在法庭上作出回应。

医生解读：

AI问诊的患者越来越多

但AI不具备医疗诊断资质

上海市第十人民医院神经内科副主任医师林盈盈告诉记者，癫痫作为慢性病，必须长期稳定服药。“如果患者在两至三年内完全无发作、没有器质性病因并通过了脑电图评估，可以在医生指导下逐步减药、停药。即便癫痫无发作，但患者本身有颅脑损伤、脑肿瘤复发等风险，临床上也是不允许减药、停药的，因此在该事件中，仍每月发作数次的患者理应持续用药，这一结局令人痛心。”

人工智能技术凭借可及、高效、几乎免费的优势，近年来大幅度填补了大众日常医疗咨询的需求缺口。但需要明确的是，所有AI医疗的输出，本质都是基于海量数据的概率性文本生成，不具备医疗诊断资质。

林盈盈也发现，门诊时，一刻不停拿着手机的患者越来越多了。“同样是CT检查，患者脑子里有个缺血灶，AI就会提示要警惕脑梗。但加上80岁和30岁的年龄因素，我们会给出完全不同的诊疗方案：高龄患者的危险性不高，但中青年患者需进一步排除多发性硬化等情况。”她说，一些患者彻夜难眠的心病，其实一次就诊可以解决。不必要的焦虑和恐惧可能会在一次又一次和AI的对话中被放大，如果用户本身性格较为偏执，容易陷入泛滥的检查乃至医患间的冲突。

专家：

应为高风险领域AI划红线

上海市卫生和健康发展研究中心主任金春林表示，不可否认人工智能技术在辅助诊断、健康科普、慢病管理等领域的优势，这也是我国智慧医疗建设的重要方向。但医学伦理有“生命优先、审慎干预”的核心原则，最终的决策权、处方权只能由具备临床诊疗资质的医生掌握。

“一方面，用药、手术方案等有严苛的医学规范，个性化治疗需通盘考虑患者作为‘人’的个体差异，这是AI应用无法在几句指令里获得的信息；另一方面，造成医疗事故后，被追责的主体无法明确，全球都将持续关注此次对ChatGPT的判决结果，但被告方并不是直接给予停药建议的人。此外，模型会持续迭代完善，企业也会用‘存在概率误差’‘仅供参考’等规避责任，监管和预警机制必须再跨前一步。”金春林说。

在他看来，AI医疗需严格区分“AI辅助参考”与“临床诊疗决策”的边界，尤其应严禁通用大模型独立出具用药、停药、治疗方案。2025年，我国出台了《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》，提出规范安全监管要求，如推动医疗卫生领域大模型规范备案、建立大模型应用评测验证、制订数据安全管理和个人信息保护负面清单等，“希望未来能进一步细化并划清医学伦理底线，从源头‘打好补丁’。”

哪些医疗问题能问AI？

林盈盈建议，可利用AI进行较外围的一般科普与解读，帮助患者便捷掌握信息，提高就诊效率，如：

■慢病患者的健康保健

■已获得医生诊断的报告和指标数值解读

■就医前的准备和注意事项

但是，涉及核心医疗行为和生命安全时，如急症、重症、儿童、用药调整等，必须“多个心眼”。“药物间的配伍禁忌、多发性基础疾病、孕期、更年期等各种特殊情况需要‘微调’常用方案，患者应及时诊疗，避免误诊、漏诊等遗憾。”她解释。

来源 | 申工社、上观新闻、澎湃新闻、每日经济新闻等

编辑| 吴繁