网易首页 > 网易号 > 正文 申请入驻

笑死,他们训了35万个AI假装被骗,让骗子白忙活17年

0
分享至


AI时代的骗子,正在把「演得像真的」这件事做得越来越好。

短短4天,他被转卖了3次。

2025年初,演员王星被骗至缅甸妙瓦底的案件令人震惊,等王星意识到不对劲时,人已经被带往缅泰边境,随后遭到武装人员挟持。

AI时代的骗子,正在把「演得像真的」这件事做得越来越好。

不过,一家名叫Apate.ai的澳大利亚创业公司,正在专门训练AI去「被骗」。


今年8月份,Apate完成了815万美金的种子轮融资,并且得到了来自美国的风险投资基金Lobby Capital的投资。

那句「骗子把骗子给骗了」,照进现实了。

Apate的诞生源于一次家庭野餐。

几年前,在麦考瑞大学网络安全研究部门工作的Dali Kaafar接到了一条诈骗电话,家人觉得很搞笑,但是Kaafar却从中看到了商机。

回到澳大利亚麦考瑞大学后,Kaafar展开了相关的研究,尝试用机器学习、自然语言处理以及自动化的对话技术来防范电信诈骗。到2024年的时候,这些研究成果已经实现了商业化的应用,从而成立了Apate公司。

其实用人工智能来戏弄骗子并不是什么新奇的事情了。

2024年,英国电信运营商O2就曾经推出过一个叫dAIsy的人工智能老太太。这位老奶奶的特长不是广场舞,而是和电话骗子聊天。


该系统利用了语音识别、语言模型以及语音合成等技术来实现人与机器之间的自然对话。O2希望通过这种方式来耗费骗子的时间,同时让公众意识到电话诈骗的风险。

Apate的野心显然更大一些。

除了要让骗子说破天之外,Apate还想要得到有价值的信息,例如诈骗网站、收款的银行账户、加密货币钱包地址以及冒充的机构信息等。

要达到这个目的,Apate并没有一个可以准确地识别出全球诈骗电话号码的清单,因为在真实的语境中,骗分子可以经常换号,用网络电话,假扮主叫人,还可以利用多国、多地区之间的通讯网络进行转接。

Apate提供了一个分层式的解决方案。

首先检测出有嫌疑的通讯行为,然后由人工智能进行主动交互,并且在交互的过程中收集到新的证据之后再将其传递给反诈骗系统。并不是要精确地找出每一个骗子的真实电话号码,而是和电信运营商一起把已经被判定为高风险的电话分到AI去处理。

和澳大利亚电信运营商TPG Telecom合作的时候,TPG会先用自己已经有的反诈风险检测能力来发现可疑的通讯行为,并且把其中一部分高风险的电话转给Apate的人工智能系统。


整个过程不用消费者自己去下载和安装任何软件。

根据Apate公开的技术文档可知,其语音系统可以使用SIP/RTP等VoIP通信协议接入现有的电话网,并且可以实现本地、私有云以及混合部署。

这样就可以让骗子在还没有接触到真正的受害人之前,就被AI截胡了。

该模式已经成功地吸引到了投资人的注意。

今年八月份的时候,Apate完成了大约1140万澳元(约合815万美元)的种子轮融资,由Lobby Capital领投,OIF Ventures、Investible、Concept Ventures和Baobab Ventures等多家机构共同参与,在此之前该公司已经获得了大约250万美元的投资。


新一轮融资会用来做技术研发、美国与欧洲市场扩张等事项。Apate已经按照美国特拉华州公司的形式来运作了,并且打算扩大在北美的业务规模,在伦敦设立办事处的同时,研发团队仍然留在悉尼。

到目前为止,公司的员工大约有20人左右,客户有澳大利亚联邦银行Commonwealth Bank、TPG Telecom等机构。

因为比起花大价钱请一位机器人来让骗子气得跳脚,银行以及运营商显然更愿意为了能够有效遏制诈骗的信息而付费。

这就是Apate的「生意经」。

01 和骗子聊50分钟

如果之前你拨打过客服电话的话,那么对于AI语音客服应该不陌生了。

机械的电子音、奇怪的断句、过分标准的礼貌用语,以及每次回答前恰到好处的停顿,你甚至不需要问第二句话,就知道对面不是真人。

Apate所面对的并不是希望迅速解决的普通用户,而是一群同样善于察言观色、试探对方反应的骗子。如果骗子察觉到对方使用的是人工智能的话,就会立刻挂断电话。

所以,Apate的第一个难题就是让人工智能尽可能地模仿一个真实的人。

根据WIRED于10月10日发布的消息,Apate的创始人Kaafar说公司已经创建了大约35万个人工智能虚拟身份。

它们有不同的年龄、性格、语言能力以及生活经历,并且可以进行打电话、发短信和在一些有问题的微信群里交流。有的角色说自己用了WhatsApp,有的没有;有的愿意继续聊天,有的则说要慎重考虑一下,过段时间再联系。


2025年3月,麦考瑞大学的研究人员发表了一篇题为《Bot Wars Evolved》的文章,在其中探讨了怎样用大语言模型来对付电话诈骗的问题。

文章提出了一个双层提示结构。第一层用来创建虚拟人物的身份背景,使人工智能具有相似的性格、年龄以及口吻。第二层是关于对话策略的部分,在不断变化的交流过程中维持着任务的目标,并不是简单的机械地回答前一句话。

根据GSMA发布的TPG Telecom合作案例来看,Apate曾经保持了一通长达54分钟的诈骗电话。TechCrunch提到,该公司已经完成了大约250万次的人工智能对话,并且这些对话所花费的时间加起来可以达到17年之久。


这背后也依靠这网络安全领域中一直存在的Honeypot的技术,也就是我们所说的「蜜罐」。

传统的蜜罐就是设置一个看上去有漏洞但是其实被严格监控的服务器或者系统来诱骗攻击者。黑客认为自己找到了攻击对象,但是他们所做的一切、用到的各种工具以及进行的各种攻击都会被安全人员记录下来。


蜜罐的目的并不是要让攻击者真的把数据带走,而是在于建立一个能够监控到攻击行为的受控环境,从而达到持续交互的效果。

浪费骗子的时间只是这项技术最容易被理解的一面。

Apate实际上想要做到的是,在诈骗分子还没有把钱骗走之前,就让他们自己说出自己的银行账号、加密货币钱包地址、诈骗网站链接以及所冒充的身份信息,并且把这些信息变成银行、电信运营商可以用作反诈情报的信息。

它所具有的价值不只在于「拖住骗子」,而是在于构建起一个由拦截、情报分析以及向运营商反馈规则组成的完整链条。

就连公司用来评估产品的标准也有点黑色幽默,Joffe表示,Apate会记录下骗子在聊天时骂人的情况,并且把这当作一件值得高兴的事情来庆祝。

02 用AI对抗AI

Apate的背后是一场由生成式人工智能所引起的攻击和防御的变化,在以往要依靠人工来完成的各种诈骗行为现在已经可以通过自动化的手段来降低其成本了。

但别急着宣布反诈行业已经迎来革命。

当AI由原来的报警工具发展为可以和外界进行互动的Agent之后,更多风险也随之而来。

反诈者所面临的已经不是简单的发送可疑信息的陌生账号了,在整个生产过程中都可以出现多种方式,并且可以做到实时换脸、模仿声音、保持人设以及自动管理大量的聊天对象。

独立在线媒体404Media曾调查过一款名为「昊天AI」的实时换脸软件。这套工具能够在WhatsApp、Microsoft Teams、Zoom等视频平台中替换使用者的面部,让屏幕另一端的人以为自己正在与某个真实人物通话。


AI对诈骗的改变已经不只是「换一张脸」的问题。

在东南亚的电信诈骗产业链里,AI被用来挑选受害者、保持假身份以及批量处理对话。调查所揭示出的“控天智能拓客”(KT)之类的工具可以使得操作者能够同时控制好几个社交账号,并且利用大语言模型来产生符合某个人设的聊天内容。

这就使得Apate这种主动防御的方式变得尤为重要。

对于能够实时产生回复、模仿身份并且能够适应对话变化的诈骗系统而言,只依靠关键词检测、黑名单以及事后举报的方式,可能已经不够。

Apate创始人曾经提出过一个很有趣的想法:假如未来的诈骗团伙也会训练自己的聊天机器人,并且让它们自动拨打骚扰电话、寻找目标受害者的话,那么电信运营商就会同时部署反诈骗机器人来阻止这些行为的发生。

这样一些诈骗电话就有可能变成两个机器人的对话了。

AI诈骗的攻与防,最终变成了一场用魔法打败魔法的战争。

来源 | APPSO(ID:appsolution)

作者 | 发现明日产品的 ; 编辑 | 呼呼大睡

内容仅代表作者独立观点,不代表早读课立场


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
免费也不要!日本国脚王牌惨遭巴萨闭门羹,能力再强也怕砸手里

免费也不要!日本国脚王牌惨遭巴萨闭门羹,能力再强也怕砸手里

零度眼看球
2026-11-22 07:14:49
中美俄点名批评一个组织,它是谁?什么信号?

中美俄点名批评一个组织,它是谁?什么信号?

斐君观点
2026-11-21 07:59:37
穆帅的的管理方式奏效,皇马伤病困局逐步消解!穆帅用专项训练 + 科学管理,破解皇马老难题

穆帅的的管理方式奏效,皇马伤病困局逐步消解!穆帅用专项训练 + 科学管理,破解皇马老难题

福酱的小时光
2026-11-22 08:55:08
有人预测:未来五年内,中国股市很可能将消失的5类股票

有人预测:未来五年内,中国股市很可能将消失的5类股票

星语者056
2026-11-21 10:22:33
炒股冠军的陨落!上半年1425.62%,如今-97.36%,千万账户已不足百万

炒股冠军的陨落!上半年1425.62%,如今-97.36%,千万账户已不足百万

金石随笔
2026-11-22 07:18:36
余文乐凌晨发文告别舞台!

余文乐凌晨发文告别舞台!

In风尚
2026-11-21 12:02:42
张维为:美国越来越多的年轻人接受社会主义

张维为:美国越来越多的年轻人接受社会主义

看看新闻Knews
2026-11-20 21:36:04
提前卧倒的 A 股,与等不回"老黄"

提前卧倒的 A 股,与等不回"老黄"

趋势巡航
2026-11-22 08:06:31
别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

命运自认幽默
2026-11-21 07:52:54
轰满分147分,147-0,小司机、中国6将丁俊晖、张安达晋级正赛

轰满分147分,147-0,小司机、中国6将丁俊晖、张安达晋级正赛

老瑗爱评论
2026-11-22 00:14:14
A股:大家做好心理预期,证券市场传来消息,明天股市或将迎关键变化!

A股:大家做好心理预期,证券市场传来消息,明天股市或将迎关键变化!

财经大拿
2026-11-22 05:25:11
事态彻底升级了!俄怒射117枚导弹以牙还牙,欧称:乌克兰严冬再冷,也吓不倒欧洲,引发舆论热议!

事态彻底升级了!俄怒射117枚导弹以牙还牙,欧称:乌克兰严冬再冷,也吓不倒欧洲,引发舆论热议!

蔡蔡说史
2026-11-21 19:26:00
美国资深男演员车祸去世,曾参演《成长的烦恼》《老友记》等!经纪人:原本伤势不致命,住院观察及治疗骨折后突然离世,警方正在详细调查

美国资深男演员车祸去世,曾参演《成长的烦恼》《老友记》等!经纪人:原本伤势不致命,住院观察及治疗骨折后突然离世,警方正在详细调查

都市快报橙柿互动
2026-11-21 16:16:31
北京100万剩女的尴尬现实:想回老家,却舍不得6年打拼的一切

北京100万剩女的尴尬现实:想回老家,却舍不得6年打拼的一切

荷兰豆爱健康
2026-11-21 15:48:47
默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

阿尔卑斯瞭望
2026-11-21 17:51:51
金饰克价继续下跌 老凤祥单日跌34元

金饰克价继续下跌 老凤祥单日跌34元

财联社
2026-11-21 10:35:02
辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

回京历史梦
2026-11-21 09:30:43
皇马21岁新援超值!出场6分钟破门+西甲3次绝杀,才花了2500万欧

皇马21岁新援超值!出场6分钟破门+西甲3次绝杀,才花了2500万欧

体育知多少
2026-11-22 07:29:39
油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

娱乐圈的笔娱君
2026-11-21 05:28:53
医护收入或有新调整!国家明确:提升医护劳动回报!绩效分配比例倾斜

医护收入或有新调整!国家明确:提升医护劳动回报!绩效分配比例倾斜

华医网
2026-11-21 05:43:16
2026-11-22 09:08:49
互联网早读课 incentive-icons
互联网早读课
专注互联网产品、运营、交互
9985文章数 55239关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

两大天后隔空对唱 59岁那英被全场的"生日快乐"惹哭

头条要闻

两大天后隔空对唱 59岁那英被全场的"生日快乐"惹哭

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

时尚
旅游
艺术
本地
公开课

我们总说爱动物,但我们真的懂得如何善待它们吗?

旅游要闻

拒绝千篇一律!山东这些小众文旅空间太会了

艺术要闻

世界十大著名宫殿盘点:中国独占两席

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版