北京
据经济观察报-经济观察网
人工智能正以前所未有的速度重塑电信网络诈骗的形态与规模。公安部2026年9月通报显示，全国已侦破AI换脸类诈骗案件逾300起，涉案金额突破5亿元，单案最高达2000万元——技术滥用已不再是边缘风险，而成为电诈犯罪跃升的核心引擎。
在成都高新警方近期披露的一起婚恋诈骗案中，犯罪团伙借助AI批量生成符合中老年男性画像的虚拟人设，在直播平台精准引流，一年内诱骗50余名女性，累计涉案超百万元。值得注意的是，人工仅负责对话环节，从头像、短视频到背景故事，全部由AI自动化生产。一旦某套身份被识破，更换人脸模型、重设社交履历即可快速上线新‘人设’，虚假身份的重置成本几近于零，规模化扩散由此成为现实。
更严峻的是，AI已深度嵌入诈骗全链条：从伪造含眨眼、摇头等动态动作的证件视频以绕过实名认证，到驱动AI账号在微信群中自动生成‘托’式互动、虚构高额返利承诺；从‘AI霸总’误导中老年用户，到利用深度伪造高管视频实施企业级财务欺诈。诈骗正从广撒网转向高精度‘靶向打击’，传统基于静态图像或单一行为特征的识别机制已明显失效。
尽管主流平台反诈能力持续增强，数据表现亮眼：快手AI反诈大模型日均调用84万次，每周独立识别风险账号9.7万个，涉诈召回率环比提升80%；抖音2026年4月单次处置‘AI霸总’类账号1300余个、下架违规内容3万余条；微博2025年关闭涉诈账号635万个，触发安全提醒近6836万次。但高拦截率背后，仍存两大盲区：一是新型手法初现时规则尚未覆盖，二是异常账号长期存在却未及时核查处置。
治理动力不足，根源在于责任与成本的结构性错配。平台投入可量化，而避免的损失、积累的信任却难以转化为直接收益。更值得警惕的是，部分业务模式与诈骗存在隐性共生关系：江苏检察机关披露的‘直播PK打赏诈骗’中，平台从4万余元诈骗打赏中抽成2万余元；Meta内部文件亦显示，部分高风险诈骗广告主只需支付更高费用即可继续投放，其半年收益可达35亿美元，远超预估监管罚款。
破解困局的关键，在于推动平台责任从事后补救向事前防控实质性前移。《反电信网络诈骗法》2026年从严落地后明确：互联网服务提供者对监测到的涉诈异常账号须重新核验并采取限制功能、暂停服务等措施，未履责造成损害的，须依法承担民事赔偿责任。最高法通过典型案例进一步厘清‘应当知道’标准——平台掌握商户资金异常、投诉激增等数据即构成风险预见义务；明知他人利用AI实施诈骗仍提供技术支持的，将以共犯论处。
技术干预节点亦在加速前移：支付宝与鸿蒙星盾联合演示的实时支付拦截机制，已在授权前提下实现交易过程中的风险熔断；公安部更明确要求，主流视频通话平台须于2026年底前上线AI换脸实时预警功能。唯有同步构建‘漏判追责+前置激励’双轨机制，将‘本可阻止’的损失纳入平台成本核算体系，才能真正倒逼平台将资源重心投向风险识别、模型迭代与源头阻断，让智能防线不仅建得快，更能守得住。
（作者 经观推荐）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
