当AI降低诈骗成本，平台该怎么算这笔账？

成都高新警方近日披露的一起婚恋诈骗案中，团伙利用AI批量制作虚假中老年男性形象，把他们包装成“条件优越”的相亲对象，再通过直播平台吸引有婚恋需求的女性。不到一年，50余名女性受骗，涉案金额超过百万元。

AI让诈骗成本越来越低。平台想多拦住一些，就需要加大治理力度。投入成本由平台承担，但被骗的损失主要落在用户身上。这种情况下，平台的反诈力度很难跟得上诈骗的变化。

AI增强了诈骗的复制能力

成都披露的这起案件中，与受害者聊天仍由人工负责，但用来包装“男嘉宾”的照片和视频已经可以批量生成。一个人设失效以后，再换张脸、改个名字、编一套经历，就能重新开始。AI压低的不只是做一张假照片的成本，也包括一套虚假身份失败后重新来过的成本。

这种低成本生产能力进入内容平台后，规模效应会迅速放大。2026年4月，抖音处置了1300多个利用“AI霸总”形象误导中老年人的账号，下架相关内容3万多条。一次治理就涉及3万多条“AI霸总”内容，AI虚假人设已经不再是零星现象。

不法分子除了利用AI伪造假身份，也可能借助AI冒用真实身份。2026年3月披露的一起案件中，不法分子将非法获取的证件照片合成为带有眨眼、摇头等动作的动态人脸视频，用于虚假实名认证。警方查获此类视频5万余条。

AI还进入了诈骗的互动环节。华泰财险辽宁省分公司2025年发布的一则风险提示提到，朝阳市一名老人被拉入一个承诺高额返利的微信群，在持续诱导下累计投入3000元。该风险提示称，老人报警后，警方核实这个微信群由AI账号运营。群里“活跃气氛”和“返利承诺”的互动都可以来自程序。诈骗者不再需要雇佣大量“托儿”来烘托气氛，一套AI程序就能达到目的。

从造一张脸、维持一个虚假人设，到和受害者持续互动，诈骗链条上越来越多环节可以快速复制。仅封掉单个诈骗账号，难以遏制整套骗局。

高拦截率为什么不够

快手发布的《2026反诈治理报告》称，过去一年主动拦截阻断了98.1%的诈骗行为，日均屏蔽涉诈视频和直播间1.76万个。借助AI智能分析助手，新的诈骗手法从发现到上线拦截策略的周期还缩短了60%。微博披露的数据显示，2025年关闭涉诈账号635万余个，阻断高风险对话544万余次，触发安全提醒6836万余次。

这些数字反映了平台拦下的风险情况，然而这些还不够。单看总体拦截率，很难知道那些没被拦住的诈骗，问题出在哪一步：新骗术刚出现时，平台可能暂时不能识别；也有一些账号早已出现异常，甚至收到用户投诉，但没有得到及时处理。这两种情况反映的是不同的治理问题。需要关注的数据还包括异常账号从发现问题到完成核查用了多久时间，同一种骗术被处置以后是否还在换账号出现。

平台需要把识别和干预行动做得更早、更细。不过对于平台来说，核验高风险账号，增加识别规则，都需要不断投入更多的人力、物力和财力，甚至过于严格还可能误伤正常用户。花出去多少钱，平台很容易核算；拦下一场诈骗后，为用户避免了多少损失、积累了多少信任，却很难直接变成可量化的平台收益。这种情况下，平台的反诈动力可能没有那么足。

反诈也会影响平台收入

平台并不总是站在诈骗链条之外的纯粹防守者。有些业务里，诈骗甚至会为平台带来收入。

2026年2月，江苏检察机关披露一起“直播打榜PK”诈骗案。两名主播谎称，直播PK的输家将向赢家直播间打赏最多的用户转账20万元，诱使一名用户打赏4万余元。平台按规则从中抽成2万余元，案发后将这部分官方抽成退还给了被害人。

在该案例中，平台虽然没有直接参与诈骗，但它的业务流程却被诈骗所利用。

广告业务里的利益关系更加直接，因为涉嫌诈骗的广告主本身也是平台客户。Meta（Facebook母公司）2025年11月的一份内部文件显示，只有当自动审核系统判断广告主涉嫌欺诈的可能性高于95%时，平台才会直接封禁；一些没有达到这一门槛、但仍被判断为高风险的广告主，不会被立即叫停，只是需要向平台支付更高的投放费用。

另一份内部文件则把诈骗广告收入与潜在监管成本放在一起比较：法律风险较高的一类诈骗广告，半年可带来约35亿美元收入，而预期监管罚款约为10亿美元。当高风险广告本身就是可观的收入来源，平台在决定是否封禁时，很难不把这笔收入纳入考量。

直播打赏和广告投放本来都是平台赚钱的业务。诈骗一旦藏进这些业务里，治理得越彻底，平台的收入就越可能受影响。

让“本可阻止”的损失进入平台经济账

当损失属于“本可阻止”，平台却没有采取必要措施时，就应当承担与自身失责程度相匹配的部分。返还受害者资金、处置平台分成，都只是事后补救。平台如果最坏的结果只是退回本不该赚的那部分，代价仍然有限。只有让漏掉风险也可能带来额外损失，平台才会在事前把这部分风险算进自己的成本。

哪些损失算“本可阻止”，要看事发以前平台掌握了多少风险信息，当时有没有现实可行的干预手段，以及及时采取措施能否避免损失。现实中的责任边界，已经开始围绕这三个问题形成。《反电信网络诈骗法》要求，互联网服务提供者对监测识别的涉诈异常账号重新核验，并采取限制功能、暂停服务等措施。违反法定义务并造成损害的，要依法承担民事责任。《民法典》第一千一百九十七条则进一步规定，网络服务提供者知道或者应当知道用户利用其服务侵害他人民事权益，却未采取必要措施的，要与相关用户承担连带责任。

对于“应当知道”，最高法给出了案例。2026年8月，最高法公布的一起电商平台案例中，法院正是根据平台掌握的经营规模、资金流水和投诉记录等数据，认定其知道或者应当知道商户长期掏空账户、逃避退赔，但平台没有及时采取资金管控等措施，因此应与商户承担连带清偿责任。

平台介入诈骗风险的时间点，正在从“事后提醒”向“交易发生过程中”推进。2026年6月，支付宝与鸿蒙星盾展示的防诈机制显示，在部分支付场景中，系统识别到风险后，可以在用户授权范围内进行拦截。

对于长期投入反诈、确实降低诈骗损失的平台，也可以考虑在监管评价等方面给予更明确的正向激励。漏掉风险要付出代价，提前治理也要有回报，平台才有动力把更多资源投入到诈骗发生之前。

（作者 艾凌馨）