网易首页 > 网易号 > 正文 申请入驻

笑死,他们训了35万个AI假装被骗,让骗子白忙活17年

0
分享至


AI时代的骗子,正在把「演得像真的」这件事做得越来越好。

短短4天,他被转卖了3次。

2025年初,演员王星被骗至缅甸妙瓦底的案件令人震惊,等王星意识到不对劲时,人已经被带往缅泰边境,随后遭到武装人员挟持。

AI时代的骗子,正在把「演得像真的」这件事做得越来越好。

不过,一家名叫Apate.ai的澳大利亚创业公司,正在专门训练AI去「被骗」。


今年8月份,Apate完成了815万美金的种子轮融资,并且得到了来自美国的风险投资基金Lobby Capital的投资。

那句「骗子把骗子给骗了」,照进现实了。

Apate的诞生源于一次家庭野餐。

几年前,在麦考瑞大学网络安全研究部门工作的Dali Kaafar接到了一条诈骗电话,家人觉得很搞笑,但是Kaafar却从中看到了商机。

回到澳大利亚麦考瑞大学后,Kaafar展开了相关的研究,尝试用机器学习、自然语言处理以及自动化的对话技术来防范电信诈骗。到2024年的时候,这些研究成果已经实现了商业化的应用,从而成立了Apate公司。

其实用人工智能来戏弄骗子并不是什么新奇的事情了。

2024年,英国电信运营商O2就曾经推出过一个叫dAIsy的人工智能老太太。这位老奶奶的特长不是广场舞,而是和电话骗子聊天。


该系统利用了语音识别、语言模型以及语音合成等技术来实现人与机器之间的自然对话。O2希望通过这种方式来耗费骗子的时间,同时让公众意识到电话诈骗的风险。

Apate的野心显然更大一些。

除了要让骗子说破天之外,Apate还想要得到有价值的信息,例如诈骗网站、收款的银行账户、加密货币钱包地址以及冒充的机构信息等。

要达到这个目的,Apate并没有一个可以准确地识别出全球诈骗电话号码的清单,因为在真实的语境中,骗分子可以经常换号,用网络电话,假扮主叫人,还可以利用多国、多地区之间的通讯网络进行转接。

Apate提供了一个分层式的解决方案。

首先检测出有嫌疑的通讯行为,然后由人工智能进行主动交互,并且在交互的过程中收集到新的证据之后再将其传递给反诈骗系统。并不是要精确地找出每一个骗子的真实电话号码,而是和电信运营商一起把已经被判定为高风险的电话分到AI去处理。

和澳大利亚电信运营商TPG Telecom合作的时候,TPG会先用自己已经有的反诈风险检测能力来发现可疑的通讯行为,并且把其中一部分高风险的电话转给Apate的人工智能系统。


整个过程不用消费者自己去下载和安装任何软件。

根据Apate公开的技术文档可知,其语音系统可以使用SIP/RTP等VoIP通信协议接入现有的电话网,并且可以实现本地、私有云以及混合部署。

这样就可以让骗子在还没有接触到真正的受害人之前,就被AI截胡了。

该模式已经成功地吸引到了投资人的注意。

今年八月份的时候,Apate完成了大约1140万澳元(约合815万美元)的种子轮融资,由Lobby Capital领投,OIF Ventures、Investible、Concept Ventures和Baobab Ventures等多家机构共同参与,在此之前该公司已经获得了大约250万美元的投资。


新一轮融资会用来做技术研发、美国与欧洲市场扩张等事项。Apate已经按照美国特拉华州公司的形式来运作了,并且打算扩大在北美的业务规模,在伦敦设立办事处的同时,研发团队仍然留在悉尼。

到目前为止,公司的员工大约有20人左右,客户有澳大利亚联邦银行Commonwealth Bank、TPG Telecom等机构。

因为比起花大价钱请一位机器人来让骗子气得跳脚,银行以及运营商显然更愿意为了能够有效遏制诈骗的信息而付费。

这就是Apate的「生意经」。

01 和骗子聊50分钟

如果之前你拨打过客服电话的话,那么对于AI语音客服应该不陌生了。

机械的电子音、奇怪的断句、过分标准的礼貌用语,以及每次回答前恰到好处的停顿,你甚至不需要问第二句话,就知道对面不是真人。

Apate所面对的并不是希望迅速解决的普通用户,而是一群同样善于察言观色、试探对方反应的骗子。如果骗子察觉到对方使用的是人工智能的话,就会立刻挂断电话。

所以,Apate的第一个难题就是让人工智能尽可能地模仿一个真实的人。

根据WIRED于10月10日发布的消息,Apate的创始人Kaafar说公司已经创建了大约35万个人工智能虚拟身份。

它们有不同的年龄、性格、语言能力以及生活经历,并且可以进行打电话、发短信和在一些有问题的微信群里交流。有的角色说自己用了WhatsApp,有的没有;有的愿意继续聊天,有的则说要慎重考虑一下,过段时间再联系。


2025年3月,麦考瑞大学的研究人员发表了一篇题为《Bot Wars Evolved》的文章,在其中探讨了怎样用大语言模型来对付电话诈骗的问题。

文章提出了一个双层提示结构。第一层用来创建虚拟人物的身份背景,使人工智能具有相似的性格、年龄以及口吻。第二层是关于对话策略的部分,在不断变化的交流过程中维持着任务的目标,并不是简单的机械地回答前一句话。

根据GSMA发布的TPG Telecom合作案例来看,Apate曾经保持了一通长达54分钟的诈骗电话。TechCrunch提到,该公司已经完成了大约250万次的人工智能对话,并且这些对话所花费的时间加起来可以达到17年之久。


这背后也依靠这网络安全领域中一直存在的Honeypot的技术,也就是我们所说的「蜜罐」。

传统的蜜罐就是设置一个看上去有漏洞但是其实被严格监控的服务器或者系统来诱骗攻击者。黑客认为自己找到了攻击对象,但是他们所做的一切、用到的各种工具以及进行的各种攻击都会被安全人员记录下来。


蜜罐的目的并不是要让攻击者真的把数据带走,而是在于建立一个能够监控到攻击行为的受控环境,从而达到持续交互的效果。

浪费骗子的时间只是这项技术最容易被理解的一面。

Apate实际上想要做到的是,在诈骗分子还没有把钱骗走之前,就让他们自己说出自己的银行账号、加密货币钱包地址、诈骗网站链接以及所冒充的身份信息,并且把这些信息变成银行、电信运营商可以用作反诈情报的信息。

它所具有的价值不只在于「拖住骗子」,而是在于构建起一个由拦截、情报分析以及向运营商反馈规则组成的完整链条。

就连公司用来评估产品的标准也有点黑色幽默,Joffe表示,Apate会记录下骗子在聊天时骂人的情况,并且把这当作一件值得高兴的事情来庆祝。

02 用AI对抗AI

Apate的背后是一场由生成式人工智能所引起的攻击和防御的变化,在以往要依靠人工来完成的各种诈骗行为现在已经可以通过自动化的手段来降低其成本了。

但别急着宣布反诈行业已经迎来革命。

当AI由原来的报警工具发展为可以和外界进行互动的Agent之后,更多风险也随之而来。

反诈者所面临的已经不是简单的发送可疑信息的陌生账号了,在整个生产过程中都可以出现多种方式,并且可以做到实时换脸、模仿声音、保持人设以及自动管理大量的聊天对象。

独立在线媒体404Media曾调查过一款名为「昊天AI」的实时换脸软件。这套工具能够在WhatsApp、Microsoft Teams、Zoom等视频平台中替换使用者的面部,让屏幕另一端的人以为自己正在与某个真实人物通话。


AI对诈骗的改变已经不只是「换一张脸」的问题。

在东南亚的电信诈骗产业链里,AI被用来挑选受害者、保持假身份以及批量处理对话。调查所揭示出的“控天智能拓客”(KT)之类的工具可以使得操作者能够同时控制好几个社交账号,并且利用大语言模型来产生符合某个人设的聊天内容。

这就使得Apate这种主动防御的方式变得尤为重要。

对于能够实时产生回复、模仿身份并且能够适应对话变化的诈骗系统而言,只依靠关键词检测、黑名单以及事后举报的方式,可能已经不够。

Apate创始人曾经提出过一个很有趣的想法:假如未来的诈骗团伙也会训练自己的聊天机器人,并且让它们自动拨打骚扰电话、寻找目标受害者的话,那么电信运营商就会同时部署反诈骗机器人来阻止这些行为的发生。

这样一些诈骗电话就有可能变成两个机器人的对话了。

AI诈骗的攻与防,最终变成了一场用魔法打败魔法的战争。

来源 | APPSO(ID:appsolution)

作者 | 发现明日产品的 ; 编辑 | 呼呼大睡

内容仅代表作者独立观点,不代表早读课立场


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
穆里尼奥:没出场的球员也积极帮忙,在场下提醒维尼修斯回防

穆里尼奥:没出场的球员也积极帮忙,在场下提醒维尼修斯回防

懂球帝
2026-11-22 07:40:14
穆帅疯狂喝水!姆巴佩捂脸:罚丢点球 90分钟0射正0过人 14次丢球权

穆帅疯狂喝水!姆巴佩捂脸:罚丢点球 90分钟0射正0过人 14次丢球权

风过乡
2026-11-22 07:10:28
希罗轰50+11燃尽!詹皇砍21分统治末节,76人5人16+送雄鹿13连败

希罗轰50+11燃尽!詹皇砍21分统治末节,76人5人16+送雄鹿13连败

你的篮球频道
2026-11-22 07:09:03
3-1击败世界第二,3-0零封张本智和!他成了国乒不能少的那张牌

3-1击败世界第二,3-0零封张本智和!他成了国乒不能少的那张牌

芳草说体育
2026-11-21 10:10:55
默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

阿尔卑斯瞭望
2026-11-21 17:51:51
网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

快科技
2026-11-21 09:12:08
哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

醉卧浮生
2026-11-21 10:57:09
不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

不出意外,从 2027年起,个人存款超过100 万的,或将面临四个难题

巢客HOME
2026-11-22 05:55:06
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

小火箭爱体育
2026-11-21 21:47:42
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
当年举报“表哥”的网民,在“表哥”出狱时,也被判了相同的刑期

当年举报“表哥”的网民,在“表哥”出狱时,也被判了相同的刑期

天下说法
2026-11-21 08:24:01
美国资深男演员车祸去世,曾参演《成长的烦恼》《老友记》等!经纪人:原本伤势不致命,住院观察及治疗骨折后突然离世,警方正在详细调查

美国资深男演员车祸去世,曾参演《成长的烦恼》《老友记》等!经纪人:原本伤势不致命,住院观察及治疗骨折后突然离世,警方正在详细调查

都市快报橙柿互动
2026-11-21 16:16:31
50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

观鱼听雨
2026-11-21 19:16:00
“全是人头”“朋友圈发不出”,广州园博会停车场剩余车位0个,周边停车指引→

“全是人头”“朋友圈发不出”,广州园博会停车场剩余车位0个,周边停车指引→

新快报新闻
2026-11-21 16:52:08
工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

东方豪侠
2026-11-21 12:16:51
二战时美军有个气象预报员,每天不琢磨怎么让飞行员活下来,反而想着怎么一次弄死最多的人

二战时美军有个气象预报员,每天不琢磨怎么让飞行员活下来,反而想着怎么一次弄死最多的人

言过于诚
2026-11-21 21:03:49
局势彻底反转了!美国对中国芯片下狠手,不到24小时,中方接连回应,美媒坐立难安,引发舆论热议!

局势彻底反转了!美国对中国芯片下狠手,不到24小时,中方接连回应,美媒坐立难安,引发舆论热议!

林杰论事
2026-11-21 18:05:57
争议!梅西故意拿球砸对手头+举手鼓掌嘲讽 后者痛苦倒地 各吃1黄

争议!梅西故意拿球砸对手头+举手鼓掌嘲讽 后者痛苦倒地 各吃1黄

念洲
2026-11-22 08:49:59
脱口秀演员自曝,曾入行直播业,为了维护打赏关系,互动延伸到私下,被“大哥”骂了一个通宵

脱口秀演员自曝,曾入行直播业,为了维护打赏关系,互动延伸到私下,被“大哥”骂了一个通宵

韩小娱
2026-11-22 08:29:45
2026-11-22 09:16:49
互联网早读课 incentive-icons
互联网早读课
专注互联网产品、运营、交互
9985文章数 55239关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
本地
艺术
数码
手机

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

内娱体态天花板又出手了。刘诗诗这组写真,脖子以下全是“教科书”

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版