上海
豆包又被告了。因豆包推荐的“下葬吉日”出现错误以及事后亲戚家发生变故，浙江一男子将豆包运营方告上了法庭。
据浙江嘉兴市新闻传媒中心《小新说事》9月15日报道，今年4月17日，史先生母亲过世，为了选择合适的下葬时间，他询问豆包哪天是“黄道吉日”，软件给他推荐了4月19日。等相关事情都安排好后，史先生再次询问豆包时，其称19日不是“黄道吉日”，可再通知亲戚修改下葬日期很麻烦，最终史先生在这一天办了丧事。
据史先生称，丧事办完后家里有亲戚出了交通事故，受伤严重。家里人有怨言，说是母亲安葬日子不对，破坏了风水。为此，史先生很生气，起诉了“豆包”运营方北京春田知韵科技有限公司（下称春田知韵科技），要求赔礼道歉，并赔偿损失。
9月17日，界面新闻查询天眼查APP获悉，今年9月3日，上述案件在嘉善县人民法院开庭审理，案由是网络侵权责任纠纷。被告春田知韵科技有限公司成立于2023年7月，注册资本为100万人民币，法定代表人郭昶，该公司为北京抖音信息服务有限公司全资子公司，实际控制人为张一鸣。
据报道，上述案件庭审中，“豆包”公司一方认为不存在网络侵权行为，软件服务过程中不存在任何过错，而史先生一方认为用户协议是格式条款，加重用户责任，通用警示不足、信息来源没有审查等。
界面新闻注意到，豆包在用户协议中曾作出相关免责声明。用户协议显示，其软件及服务生成的内容仅供参考，不得将输出的内容作为专业建议、商业用途或者用于其他目的；若涉及可能会产生重大影响的情形，比如与医疗、财务、投资、保险、法律、食品安全等有关的场景或者目的，建议咨询相关专业人士。豆包还表示，根据输出内容所作出的任何判断或者据此作出的后续相关操作行为，所带来的后果和责任均由用户自行承担等。
此外，目前豆包在对话界面上方还标注了“AI生成可能有误，注意核实”的字样。
这不是豆包运营方第一次被起诉。今年5月，一男子称因轻信豆包退机票规则，导致自己亏损600元，而且在后续维权等环节遭到豆包多次“误导”和“戏耍”，最终该男子将春田知韵科技告上法庭。此事引发大量关注，“AI幻觉造成损失，该谁买单”“平台是否需要为用户的损失承担责任”等话题被热议。
据新黄河，针对上述话题，北京星权律师事务所律师邓以勒表示，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台在提供服务时是否存在过错，即“有错才赔”。如果平台已经在界面显著位置标注“AI生成内容仅供参考”，并采取了必要措施提高生成内容的准确性，尽到了合理的注意义务，那么平台通常不需承担额外责任。
今年1月，全国首例生成式AI“幻觉”引发的网络侵权责任纠纷案的判决，也为相关案件提供了参考。杭州互联网法院最终认定，现行法律下，人工智能并不具备民事主体资格，既不能独立作出意思表示，也不能被视为平台的“代理人”或“传声筒”。换言之，即便AI在对话中作出了承诺式回应，也不能理解为平台真实意愿的外化，所以其承诺无效。
该案源于去年6月。当时，某AI向用户提供错误高校报考信息后被发现，AI称“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉”。该用户随后向杭州互联网法院起诉。上海交通大学凯原法学院副教授林洹民点评此案时指出，法院判决明确了“人类负责制”原则，即人工智能系统带来的利益和风险，最终都应由人类分配和承担。
法院提醒社会公众，在面对生成式人工智能高度流畅、自然的语言应答时，应保持必要的警觉与理性认知。当前技术条件下，大模型本质上仍是生活和工作中的“文本辅助生成器”和“信息查询工具”，尚不足以充当可靠的“知识权威”，更不能作为替代个人判断的“决策者”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
