“AI” 成被告! 母亲下葬、写诉状、看病、旅游、摘蘑菇、高考报志愿都问AI ?｜劳动法江湖

2026年4月17日，史先生的母亲过世，家人商量哪天下葬，他想到了人工智能“豆包”这款软件，软件给他推荐了4月19日。等到事情都安排好了，史先生再次问“豆包”确认发现，19日这一天并不是合适的日子，可再改就很麻烦了。而且办完丧事后亲戚还车祸重伤，为此，史先生很生气，他把做“豆包”的软件公司给告了。

据介绍，史先生老家在江苏沭阳，目前在嘉善生活。4月17日，史先生的母亲突发疾病过世。史先生一家兄弟姐妹五个，家里人一起商量母亲后事，当务之急，需要先确定一个安葬的日子。

史先生告诉记者：“我比较相信‘豆包’，平时就依赖它，觉得它什么都懂。然后我就问‘豆包’什么时候下葬，豆包说4月19日，我觉得它讲得很有道理，所以我很相信。”软件的问答记录显示，史先生当时提问后，“豆包”回答称最稳妥的推荐是4月19日。过了一段时间，史先生又提问，“几点下葬合适”，“豆包”回答7点到9点，不过这次的答案跟上次的答案有点不一样，“豆包”的回答中提到，4月19日不是合适的日子。

史先生一下子糊涂了，他又问了好几遍，“豆包”给出的答复都是19日不合适。这个时候，亲戚朋友已经通知，改日期已经来不及，最后，史先生硬着头皮把母亲的丧事办了。丧事办好不久，家里有亲戚出交通事故、受伤严重，对于史先生的安排产生怨言。

史先生向“豆包”软件的公司投诉，没有收到回复，于是他决定起诉对方。“豆包”还帮史先生写了一份起诉状，表示可以起诉，并给出了起诉的步骤。

“豆包”软件的用户协议显示，“豆包”软件和服务生成的内容仅供参考，不作为专业建议。涉及产生重大影响的情形，建议咨询相关专业人士，不应成为作为或不作为的依据。根据输出的内容所作出的任何判断或者据此作出的后续相关操作行为，所带来的后果和责任均由用户自行承担等。

记者了解到，这起案件嘉善县人民法院已经开庭审理。律师认为，史先生通过起诉维权有一定难度。史先生如果要诉讼维权，得证明提供AI软件的这个服务提供商，存在一个过错行为。首先对方要有过错，另外对方的过错与史先生实际遭受的损害还得有因果关系，这个举证是非常难的。如果只是AI提供了一个错误答案，这个显然是不够的。

关于“AI坑人”的新闻屡见不鲜。6月18日，长沙52岁的张某在家突发头晕，习惯性打开手机，使用AI搜索相关症状和处理方法。3天后，病情未见好转，反而加剧，家属赶紧送患者就诊，才转危为安。医生告诫，AI问诊主要依赖患者输入的信息进行分析，仅凭文字描述很难判断病情轻重，代替不了专业医生面诊。无独有偶。6月5日，南京有市民使用豆包拍照识别从小区摘到的蘑菇，险些引起食物中毒。此外还有宁波57岁的杨师傅周末爬山时，被AI“导”进深山迷路被困，折腾到体力透支，寻求救援后被消防员解救；高考生用AI填志愿，被编造的专业代码、往年的分数排名带偏；农民问AI打什么农药，百亩芝麻田一夜枯死……这些案例表面上充满无厘头色彩，但背后是我们该如何正确看待和使用AI这一严肃问题。

此前，抖音集团相关负责人曾回应，AI目前还在发展阶段，豆包也在不断提升识别准确性，涉及类似人身安全等重大问题，建议将AI的回答作为参考，务求多方论证，以免造成伤害。

澎湃新闻曾作出评论：AI的强大，在于它可以在很短的时间内，秒搜海量的网络碎片信息，并将之拼成一个“像那么回事”的答案。但它给出的答案，是“最像真相的文本”，而不是“绝对的、正确的、可靠的真相”。它无法搞清一座深山里的复杂路径，无法仅靠简单描述就作出诊断，不知道庄稼用药的注意事项，更别说它还会不懂装懂，捏造虚假信息。技术越强，人越得留三分清醒。AI可以作为工具性帮手，用来查资料、理思路、列清单，但它始终不是百试百灵、更不是能替代人思考和作决策的“万能钥匙”。

尤其是，碰到涉及出行安全、身体健康、高考志愿这种“错一次就翻车”的大事时，更不能把对AI的信任升级为无限度、无条件依赖，而放弃生活常识和解决问题的权威渠道。古人说“尽信书不如无书”，今天我们或许该说：尽信AI不如无AI。

来源：浙江嘉兴市新闻传媒中心《小新说事》、大众日报、湖南日报、澎湃新闻、羊城晚报

汪正楼律师，南京劳动法律师，南京律协劳动与社会保障委员会委员，劳动仲裁委兼职仲裁员，办理案件获江苏律协“十佳劳动争议案例”，获评南京律协“劳动与社会保障业务奖”，专注劳动用工法律服务，擅长劳动用工合规建设、疑难劳动争议案件处理。

咨询培训 | 法律顾问 | 用工合规 | 劳动维权

南京 汪正楼律师 13913302846