上海
近日，数起利用AI仿冒名人进行带货的事件又上热搜了。
10月18日凌晨，演员吴越发文揭露自己的形象被AI换脸技术盗用于直播带货、骗钱牟利，痛斥“太恶劣”；18日下午，邓亚萍团队也对媒体回应称“我们从未对外授权过邓亚萍的AI形象及AI换背景”，强调邓亚萍的所有商业合作均明确禁止AI相关使用，既不提供AI形象，也不允许以真人形象进行背景替换；甚至不久之前，有人生成AI视频冒充刘欢妻子，明为讲述刘欢去世前情形，实则兜售“黄精五黑粉”。
从当事人纷纷明确表态不难看出，这些利用AI仿冒名人进行带货的现象，当事人既没有参与、也未授权、更没有代言，对此类造成个人和公众利益被侵犯的行为颇感愤怒。
《民法典》对肖像、声音权益的保护作出明确规定，《人工智能生成合成内容标识办法》已施行，网络平台主体责任相关监管规则业已出台，正搭建起对应的制度框架，为何AI仿冒名人带货的乱象依旧屡禁不止？
究其原因，技术正快速迭代、灰产批量运作节奏加快的现实情况，与目前的AI治理体系之间，仍存在治理上的“时差”。
首先是平台前置监管环节。《互联网信息服务深度合成管理规定》明确，“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意”。结合《民法典》，商业场景使用他人肖像、声音，理应事先获得权利人许可，这是合规经营的前提。但短视频直播数量庞大、内容上线快，平台对每一条带货视频逐一核验人格权授权材料，在实操层面成本较高。不法灰产正是抓住平台前置核验的落实难点，批量制作AI伪造视频，先行上线引流变现，等到权利人投诉维权，侵权收益已经实现。
事中监管的识别能力不足也会造成治理滞后。《人工智能生成合成内容标识办法》要求，“用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识”。这一规则对于有效规范合规主体具有重要意义，但对于刻意违法者，规避、遮挡标识已是常见手段。西南政法大学人工智能法学院教授冯子轩指出：“人工智能生成的内容涵盖文本、短视频、直播、虚拟场景等多元形态，不同场景的技术架构、传播逻辑差异巨大，单一的技术方案没有办法适配所有的场景。”造假技术持续迭代容易绕过鉴伪模型，从而造成识别能力滞后于造假手段，仅依靠末端标识难以遏制产业化造假。
事后维权追责存在堵点亦影响治理效果。中国社会科学院大学互联网法治研究中心主任刘晓春就表示，普通人在寻找侵权主体、举证、取证存在“很大的难度”。在AI深度伪造侵权案件中，生成日志、交易流水等关键证据大多留存于平台与运营方，权利人维权周期长、成本高，单独举证存在天然弱势。
治理要想取得突破，关键是法律不断完善、规则逐步落实、监管持续增强。
今年9月16日，最高人民法院发布网络法治典型案例，其中明确：“带货主播受电子商务经营者委托，通过制作发布视频等方式进行商品推广时，故意使用侵害他人人格权等权益的素材的，构成侵权；委托人电子商务经营者对宣传推广内容未尽到法律规定或者合同约定的审核义务，对损害结果发生存在过失的，与带货主播成立共同侵权，应依法承担连带责任。”该裁判否定了简单的技术中立思维，用司法手段遏制灰色产业链，减轻权利人举证压力，意图打通事后追责堵点。
遏制AI仿冒个人形象乱象，绝不是简单否定数字人直播的创新价值，而是要划清法律边界，如此方能促进技术健康发展。
面对AI治理的挑战，监管方应在“极限思维”“底线思维”的框架下想在前、走在前、做在前。技术迭代速度快、平台监管压力大，这都不是治理跟不上技术的理由。越是无人区，就越是需要有规模、有体系的开荒；越是蓝海，就越是需要在发展中规范、在规范中发展。
原标题：《上观时评｜AI仿冒名人带货：技术加速，治理更需提速》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
