江苏
一名31岁的中国女子，在科技巨头亚马逊担任软件工程师，却在今年2月被发现死于西雅图的公寓内。
令人震惊的是，她生前一直在使用ChatGPT寻求医疗建议。为了改善求职面试时的语言表现，她希望减少长期服用的抗癫痫药物，而ChatGPT竟然为她制定了一份详细的减药计划，在短短25天内，将每日400毫克的药物剂量逐步降至零。
即使她多次表达担忧，甚至出现疑似癫痫发作的症状，ChatGPT仍不断给予安慰，告诉她没有必要担心。
10月27日，死者父母正式向加州旧金山高等法院提起不当致死诉讼，将ChatGPT开发商OpenAI及其首席执行官奥特曼（Sam Altman）告上法庭。
死者万女士（Bowen Wan）来自中国江苏，毕业于亚利桑那州立大学，曾在亚马逊担任机器学习软件工程师。万女士此前长期患有严重癫痫。
她曾经服用的药物一度失去效果，后来医生调整治疗方案，使用新药后，癫痫发作频率下降至每月数次。
2021年起，她因健康问题开始长期休假。然而，2025年11月，她得知自己即将被亚马逊裁员，必须在2026年2月中旬之前找到新工作，才能继续留在美国。
这让她陷入巨大的压力。她担心正在服用的抗癫痫药物会影响自己的语言表达能力，进而影响技术面试，因此开始向ChatGPT寻求帮助。
今年1月，她向ChatGPT提出，希望将每日400毫克的拉莫三嗪（Lamotrigine）减少至300毫克。ChatGPT不仅没有明确阻止，反而回应称，这个想法不仅合理，而且在她目前的情况下完全可以实现。
随着两人的对话不断深入，ChatGPT提供的建议也越来越具体。
根据诉讼材料，ChatGPT最终为她制定了一份长达25天的逐日减药计划，要求她将原本每天400毫克的剂量一步步减少，直至完全停药。
更令人担忧的是，诉讼指控，ChatGPT不仅提供了医生从未批准的减药方案，还鼓励她不要向医生透露实际减药情况。
当万女士担心医生会认为减药速度太快时，ChatGPT甚至告诉她，医生认为风险太高，并不意味着她的做法就是错误的。她的神经科医生、华盛顿大学医学中心区域癫痫中心主任Nicholas Poolos接受《纽约时报》采访时表示，考虑到万女士的病史，他根本不会考虑让她减少药物剂量。
在他看来，这种减药方案完全不合理。
最令人难以接受的是，万女士并非没有察觉危险。
《纽约时报》分析她生前与ChatGPT的聊天记录发现，她至少158次表达过对减药的担忧。
今年2月初，她与远在中国的父亲通电话时，突然失去回应，电话另一端持续沉默至少两分钟。这一异常情况被怀疑是一次癫痫发作。第二天，她用中文向ChatGPT描述了这件事，询问自己是否应该担心。
ChatGPT却回答，不需要过度担心健康状况。
在另一次对话中，她明确表示自己有些害怕，ChatGPT仍安慰她，完全没有必要担心。虽然ChatGPT在部分对话中曾建议她咨询医生，但在其他多次涉及危险症状的交流中，并没有作出相应提醒。
到了生命最后几天，ChatGPT甚至要求她第二天继续维持零毫克的剂量，即使当天身体很难受，也要坚持。
根据诉讼材料，万女士最后一次服用拉莫三嗪是在2月10日前后，而ChatGPT制定的计划要求她在2月12日完全停药。
她最后一条聊天消息发送于2月11日深夜11点以后。
随后，她再也没有回复家人的消息。
2月14日，情人节，悲剧最终被发现。由于连续两天无法联系上女儿，远在中国的父母越来越担心，于是联系西雅图的一位朋友，请对方前往万所居住的公寓查看情况。
父母通过微信视频，远程看着朋友进入女儿的住处。当朋友走进卧室时，发现万博文已经面朝下倒在床上，没有了生命迹象。
远隔数千英里的父母，只能通过手机屏幕，目睹女儿被发现死亡的场景。
根据原告律师公布的资料，华盛顿州金郡法医认定，万女士最终死于癫痫猝死（SUDEP）。死后血液检测显示，她体内拉莫三嗪的浓度，仅约为通常认为具有治疗效果的最低浓度的五分之一。
诉讼认为，她在2月12日死亡，ChatGPT提供的减药建议与死亡存在直接关联。
这起案件还有一个值得关注的细节：万博文大量使用中文与ChatGPT交流。诉讼指出，在GPT-4o推出之前，已有独立研究发现，相关模型在中文环境下产生不安全内容的频率明显高于英文。
原告认为，OpenAI明知不同语言的安全防护可能存在差异，却没有向中文用户作出充分警告。
事实上，万女士是一名高度依赖ChatGPT的用户。她从2023年开始频繁使用这款人工智能工具，除了医疗问题，还会询问感情、医疗保险、残障福利等生活事务。
到了2025年，她平均每周向ChatGPT发送超过1500条消息。对于她来说，ChatGPT早已不只是一个偶尔使用的搜索工具，而是日常生活中重要的信息来源。
原告律师指出，问题恰恰在于，ChatGPT能够以非常自信的语气提供看似专业的医疗建议，却没有真正医生所具备的专业训练、监督和责任机制。
面对诉讼，OpenAI发言人Drew Pusateri表示，这是一起令人心碎的事件。他强调，涉案使用的是较早版本的GPT-4o，该模型已于今年2月13日从ChatGPT消费者应用中下架。
OpenAI表示，新版本模型在识别紧急医疗情况、提示用户寻求专业帮助等方面已经有所改进，公司也持续与临床医生合作进行安全测试。
发言人同时强调，ChatGPT不能替代专业医疗服务。
这也不是OpenAI第一次因为医疗建议问题面临诉讼。今年5月，一名19岁男子的父母也在加州提起诉讼，指控ChatGPT向其儿子提供危险的药物使用建议，最终导致他因意外药物过量死亡。
随着越来越多人将ChatGPT用于健康咨询，人工智能究竟应该在医疗问题上提供多具体的建议，以及一旦用户因这些建议受到伤害，平台应当承担什么责任，正在成为新的法律争议。
你是否也曾向ChatGPT或其他AI工具咨询过病情，甚至根据AI的建议调整过就医建议或者用药呢？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
