据媒体报道, 澳大利亚有一家叫Apate.ai的公司,其主营业务就是利用AI假冒用户骗取骗子的信息转卖给银行或运营商。为做这件事,他们造了35万个AI,每天“上班”,工作内容就是被骗,和骗子聊天,骗取骗子的信息。
按照创始人的说法,这些AI会扮演不同年龄、性别和口音的普通人。有些像独居老人,有些像年轻人,还能使用不同语言。诈骗电话打进来,它们会伪装成“易骗人群”和骗子聊天。骗子让它转账,它就说自己正在找银行卡。骗子让它打开链接,它会反复确认步骤。眼看就要操作成功,它又突然忘了密码,或者说自己得去找记着密码的本子……
![]()
与骗子累计对话超250万次,与骗子的总聊天时间超过17年,最长一次的通话,聊了2小时12分钟。骗子想拿到钱,就得提供收款账户、钓鱼网址,或加密货币钱包地址。这些AI一边扮演潜在受害者,一边收集线索,供银行、电信运营商等客户用于识别和干预诈骗,已累计提取了超过25万条情报。
流程审计:
① 这是收集信息“蜜罐”商业化的例子。“蜜罐”是一个在安全领域常用的收集信息的手段。我手头就有几个手机号,用于收集面向北京用户的骚扰电话和垃圾短信。
②AI智能体引入,使得“蜜罐”“活”了起来,可以通过多重对话收集更多信息。
③对于电信网络诈骗在一些慢节奏的国家有效,因为可以把诈骗号码交给银行、运营商或执法部门处置。但对我国用户效果不会太好,因为骗子的手机号、银行账号活跃时间都很短,如果没有理顺信息渠道,第三方标记的骚扰电话很难快速得到认可,处置时很可能已经失效。
④在我国目前的法律法规框架下,非官方渠道采取类似“AI反诈”需面对多重法律风险,包括但不限于手机号实名制、反诈模型、信息泄露等,也包括获得的诈骗信息很难在第一时间传递到银行、运营商,且银行等很难仅凭有限的信息快速处置。
⑤无论怎样,“蜜罐”都是收集信息、发现线索的重要手段,主管部门和银行、运营商、互联网平台等都应该主动布设“蜜罐”,以尽早发现非正常信号及趋势,提前应对。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.