张吉豫：AI幻觉致害的责任界定与避风港规则

来源 | 《上海法治报》2026年8月24日B1版“法治论苑”

作者 | 张吉豫 ，中国人民大学法学院教授、博士生导师

未来法治研究院执行院长

北大法律信息网签约作者

人工智能大模型的“幻觉”问题（以下简称“AI幻觉”）近来愈发引起社会重视。“AI幻觉”是指人工智能在输出中生成了客观上并不存在或与事实不符的内容。2026年上半年，“杭州AI幻觉案”的判决、“南京人工智能幻觉案”的二审宣判与德国“慕尼黑人工智能幻觉案”的临时禁令裁判相继公布，开启了司法实践直面和回应人工智能幻觉致害问题的新阶段，也引发了对于生成式人工智能提供者在AI幻觉侵权场景中能否适用“避风港”规则的关注。

中德人工智能幻觉引发的

三起侵权纠纷比较

今年1月，杭州互联网法院审结全国首例AI幻觉侵权案。原告梁某使用某AI咨询高考信息，该AI不仅提供了错误的信息，还承诺如有错误将赔偿10万元。梁某查实信息确有错误，遂诉至法院。杭州互联网法院认定该AI企业并无责任。法院指出，案涉纠纷应适用过错责任原则，采取动态系统论对服务提供者的注意义务进行综合考量，并提出了两项注意义务：服务功能的显著提示说明义务，以及应采取技术措施提高生成内容准确性的义务。

“南京案”则是关于AI幻觉侵犯名誉权的案件。2024年，李某在某搜索平台手机客户端检索个人信息时，发现平台关联出“李某被判几年”的内容，且该平台“AI智能回答”板块回复称“李某被判三年有期徒刑”，并展示李某照片。李某发送律师函并邮件投诉要求删除和纠正，但均未获处理。一审法院判定该平台侵害了李某名誉权；鉴于错误内容已被删除，无需再判令删除内容，法院判令平台书面赔礼道歉；李某主张的经济损失因未能举证而未获支持。江苏省南京市中级人民法院在二审中维持原判。该案有两点尤其值得关注。首先，法院区分了搜索平台的“AI智能回答”功能与传统搜索服务。后者属于“信息集成”，而前者已转变为“内容产出”，是服务提供者通过技术主动整合、加工信息并公开展示，故应负有更高的内容审核与风险防控义务。其次，法院兼顾技术发展阶段、事后补救情况和损失未获证明等因素，未支持经济赔偿，避免个案风险过度溢出而抑制新兴行业的创新积极性。

“德国慕尼黑AI幻觉案”则涉及近年来搜索引擎平台中常见的AI搜索摘要功能。案件起因源于谷歌在其搜索引擎中推出的搜索摘要功能“AI概览”。当用户在搜索框输入原告名称并配以“欺诈”等负面关键词时，“AI概览”会生成摘要性文本，将原告与诈骗、订阅陷阱等关联在一起。2026年5月，慕尼黑第一地方法院颁布临时禁令，禁止谷歌传播原告实施欺诈等信息；违者每次最高可处25万欧元罚款或对管理层成员处以六个月以下秩序拘留（合计最高二年），谷歌还须承担80%的诉讼费及原告律师费。值得注意的是：法院明确了搜索引擎服务提供者对AI摘要功能生成侵权内容负有直接侵权责任，无法援引“避风港”规则来免责。并且，法院还特别指出，搜索引擎对互联网存在具有“不可或缺”的功能，但“AI概览”仅为补充功能，用户仍可依靠普通搜索结果导航，故“AI概览”提供者不享有与搜索引擎提供者同等的责任豁免。

AI幻觉侵权责任界定的

共识与分歧

三起案件具有相似的事实结构和共同的技术成因：都是AI因其固有的幻觉问题而生成了与事实不符的内容，受害者向AI提供者追责。表面上看，“杭州案”认定服务提供者无过错、不担责，与后两案结果似乎相左，但判决结果差异首先源于应用场景及案涉权益类型等因素的不同。“杭州案”中原告主张的是纯粹经济利益，而“南京案”和“慕尼黑案”涉及的是人格权，因此后两案中法院支持了停止侵害或者临时禁令请求。正如“杭州案”法院所指出的，“责任应根据实际情况、具体案情由生成式人工智能模型开发者或集成应用提供者，甚至应用服务的使用者分别或共同承担”。这反映出场景化的责任界定立场。

三起案件也反映出不同法院在价值判断和平台治理立场上的差异。我国两案体现了法院在保护公民权益的同时，也注重兼顾对技术创新所能带来的社会福祉的考量，避免因苛责绝对责任而阻滞新兴AI产业创新发展。“杭州案”在界定注意义务时，专门考察了当前幻觉的技术成因，以及具有可行性的降低幻觉的技术手段。“南京案”虽然认定AI提供方构成直接侵权，但法官也表示，要坚决守住保护他人合法权利的底线，同时也“要对技术创新保持适度的宽容，不能苛责生成式AI服务者对所有技术问题承担绝对责任”。尽管法院最终没有支持经济赔偿的原因主要是原告未能举证，但也反映了避免阻滞行业创新积极性的考量。

“慕尼黑案”法院的说理则反映出其对AI摘要的积极意义持保留态度。法院强调，传统搜索引擎经营者仅承担有限责任，是基于搜索引擎对互联网可用性的重要意义——若对其规定了一般性监控义务，将动摇这一已获法律秩序认可且为社会所期待的商业模式；但在法院看来，“AI概览”“对于互联网的使用绝非必不可少”，通过链接显示搜索结果已能使“数据洪流”对个人变得可用。可见该院对于AI摘要这一创新的社会价值评价有限，其社会福利意义未获充分认可，责任宽松化的理由亦随之不成立。

“慕尼黑案”的立场并非孤例，而是折射出欧盟加重平台责任、一定程度上收紧传统“避风港”规则适用范围的倾向。2019年，欧盟《数字单一市场版权指令》第17条就率先打开缺口，规定在线内容分享平台向用户提供他人上传的版权作品，本身即构成“向公众传播”，不能适用以事后“通知-删除”为核心的传统避风港规则，而是需要在接到有效通知后尽最大努力确保相关侵权内容不出现在平台中。2022年，欧盟《数字服务法》则建立起对于服务提供者的差异化义务，特别是强化了超大型在线平台与超大型在线搜索引擎的风险管理与合规义务。“避风港规则”已从普遍适用的一般规则，逐渐被限缩为以履行特定积极义务为前提的免责条款。而“慕尼黑案”中，法院认为“AI概览”生成的内容是平台通过算法主动整合、提炼后生成的新内容，属于平台自身的“内容产出”，因而无法援引针对间接侵权的避风港规则来免责。这一判决反映出，各类生成式人工智能服务提供者可能在德国被认定为从单纯的管道转变为“内容的生成者与重构者”，因而无法适用“避风港规则”。

防控人工智能幻觉风险

应当坚持的司法原则

三起人工智能幻觉案件，展现了司法面对不同场景下幻觉致害问题的回应。回应幻觉问题，需先理解幻觉何以产生、能否消除、如何减轻。正如“杭州案”判决中所指出的，幻觉是当前AI技术路线下的固有问题，难以彻底消除。此外，幻觉又与“泛化”能力具有高度内在关联性。这里的泛化是指模型并非简单“复述”训练语料，而是能从海量训练数据中习得规律与模式，并将其运用于解决从未见过的新问题。正是这种能力，使大模型得以触类旁通，成为通用的智能工具。理论上，将AI设计得更“保守”可以降低幻觉率，例如极端情况，即拒绝一切不确定的回答、只复述检索到的原文，但代价是牺牲输出内容的流畅性、创造性与泛化能力，甚至退化为僵化的检索器。因此，目前我们无法采用“零幻觉”的治理目标，而是应在承认当前技术路径中幻觉难以根除的前提下，通过责任与义务的合理界定，有效防控幻觉带来的现实风险。立足我国人工智能治理原则和司法实践发展，本文提出三点建议。

首先，应当坚持以人为本、智能向善的基本原则。这是我国人工智能治理的基本原则，也是幻觉治理的价值原点。一方面，以人为本意味着坚持以人民为中心，始终明确人工智能的发展最终是为了人的福祉，因此在人工智能时代需要将社会主体的权益保护落到实处。另一方面，“智能向善”要求服务提供者不能简单以幻觉难以消除就不作为，而是应将合理消减幻觉、防范侵权内化为产品设计目标，不断推进AI技术发展完善。

其次，应当坚持场景原则。幻觉导致侵权的表现形态千差万别，统一、刚性的规则难以适用，场景化分析是必然选择。使用AI生成内容的情形多种多样，在不同场景下，不同主体对于AI生成内容的原因力不同。例如，如果是用户提供了侵权内容，让AI进行润色加工，则服务提供者处于提供工具的辅助地位；而在无用户提供侵权内容或刻意诱导的情形下，AI输出内容应认定为由服务提供者提供。

最后，应当坚持以过错责任原则为主，以动态系统论界定注意义务。过错责任的要义在于将对于过错的判断客观化为对是否尽到注意义务的判断，并如“杭州案”所强调的，以动态系统论把握注意义务的内容。注意义务不是一张静态的清单，而是随技术发展与场景变化持续调整的多因素判断框架。不同场景下，受侵害的权益类型、传播范围、可采取的预防措施及其成本和效果都不尽相同，因此应当避免僵化的规则界定，而是应在个案中进行综合判断，良好统筹发展与安全。一般而言，当前，服务提供者在事前应标识和说明相关内容系AI生成、可能具有错误，并采取行业通行的技术措施减轻幻觉；在收到明确的侵权通知后，应当及时采取必要措施，包括在技术可行的情况下，应针对已识别的风险采取例如定向拦截等措施，降低后续风险。在尽到了合理注意义务的前提下，服务提供者不应承担损害赔偿责任。这也可以视为人工智能服务提供者的避风港规则，为创新活动的开展提供了合理的空间。合理界定注意义务，可以在不阻碍科技创新发展的同时，激励人工智能服务相关主体采取合理措施，积极减轻幻觉及其影响，不断优化人工智能，更好地在人工智能时代保障人们权益。

点击进入下方小程序

获取专属解决方案~

责任编辑 | 金梦洋

审核人员 | 张文硕

本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。