网易首页 > 网易号 > 正文 申请入驻

AI变脸助长电信诈骗激增,亟需多方防范对策

0
分享至

在科技飞速发展的当下,AI(人工智能)给咱们的生活带来了诸多便利,但一系列利用AI的新型犯罪,也给社会安全与稳定带来了严峻挑战。



本人在浙江省办理的一起涉嫌诈骗案中,犯罪嫌疑人就是通过各种途径收集大量个人信息,运用 AI 算法进行深度分析,把受害人的兴趣爱好到消费习惯,及社交关系到财务状况,都摸得一清二楚;再通过采集受害人多角度照片或短视频之后,利用AI 变脸技术已从静态图像伪造发展为实时动态视频合成实施诈骗。更严重的是,犯罪团伙甚至能实时替换视频通话中的人脸,在对话过程中动态调整表情和动作,而现有技术对动态伪造视频的识别率不足 80%,部分检测工具在低分辨率或复杂光线环境下准确率骤降至 50% 以下,普通用户难以察觉异常。

据公安部数据显示,2025 年一季度全国 AI 换脸诈骗案环比再增 45%,老年群体受骗占比达 38%,成为主要目标,单笔最高损失达 620 万元(上海某企业高管被骗案例)。香港荃湾 2025 年 4 月破获的诈骗中心,通过 AI 换脸假扮 "美女" 诱导受害人开设虚假电商平台,每周骗款高达百万元,涉及跨境犯罪网络。当前,犯罪团伙通过爬取社交媒体、外卖地址等信息构建 "受害人画像",使诈骗成功率提升 2.3 倍,而尽管《人脸识别技术应用安全管理办法》于 2025 年 6 月 1 日施行,但对 AI 生成内容的 "显著标识" 标准尚未明确,平台审核责任缺乏操作指引,技术提供者追责机制也不完善,防范形势严峻。



为有效遏制 AI 变脸电信诈骗的蔓延,切实保障人民群众财产安全,提出以下建议:



一、完善法律体系,压实主体责任。参照欧盟《人工智能法》,在《反电信网络诈骗法》中增设专门条款,明确 "为诈骗提供 AI 换脸工具者,除依法追究刑事责任外,可处违法所得 5-10 倍罚款,最高不超过 5000 万元";规定技术平台未履行 AI 生成内容审核义务的,由网信部门责令暂停相关业务直至整改达标。2025 年底前,由国家网信办牵头出台《AI 生成内容标识管理细则》,强制要求对深度伪造的音视频添加不可去除的水印标识,如在视频角落标注 "合成内容" 电子标签,从法律层面明确内容生产者的标识义务。

二、强化技术反制,筑牢安全防线。推动金融、政务、支付等重点领域强制部署高精度检测技术,2025 年 12月底前实现 100% 覆盖。推广成熟检测系统(准确率超 96%),支持其与国家反诈中心数据互通,实时共享新型伪造特征库。在数据安全管理方面,由国家发改委、工信部牵头,2025 年底前在金融、医疗行业试点人脸数据 "区块链存证 + 国密算法加密" 技术,确保数据采集、存储、使用全流程可追溯、不可篡改。企业采集人脸信息时,须采用隐私计算技术,通过多方安全计算实现 "数据可用不可见",违规泄露人脸数据的企业,除承担民事赔偿外,相关责任人依法追究刑事责任。

三、构建多维反诈宣传体系,提升反诈能力。要通过宣传提升群众防范意识,提醒群众保护个人生物信息,谨慎对待不明链接、邮件。针对老年人,在社区、老年大学开展“AI 反诈工作坊”;针对企业财务人员,联合行业协会开展 “反诈模拟演练”,识别伪造高管指令的常见话术。利用短视频平台制作 “AI 诈骗拆解” 系列动画,还原诈骗分子如何通过外卖信息、社交动态定制剧本,提示公众避免在网络暴露人脸、声纹等敏感信息。推广“国家反诈中心 APP”的“AI 预警”功能,实时拦截可疑视频通话。构建起“全民参与、全域覆盖”的防御网络,让AI犯罪无处遁形。

四、深化源头治理,强化跨境打击。外交部会同公安部与“一带一路”国家建立 AI 犯罪情报共享平台,建立 "48 小时跨境协查机制",共享犯罪团伙的技术特征、资金流向和人员信息,联合开展系列专项行动,实现对跨境诈骗团伙 "资金链 + 技术链 + 人员链" 的同步打击,2025 年内力争联合侦破至少 20 起重大跨境 AI 诈骗案件。(文/湖南君杰律师事务所许小军)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
腾讯:元宝不及预期,已大幅削减投入;WorkBuddy已是“中国使用量最高的AI产品”,有用户每月花4万买token

腾讯:元宝不及预期,已大幅削减投入;WorkBuddy已是“中国使用量最高的AI产品”,有用户每月花4万买token

大风新闻
2026-11-19 10:40:03
深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

扶苏聊历史
2026-11-19 15:27:26
太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

火山詩话
2026-11-18 11:00:42
APEC“全家福”的围巾里,藏着一个数字

APEC“全家福”的围巾里,藏着一个数字

极目新闻
2026-11-19 21:21:29
陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

近史博览
2026-11-19 10:14:29
突发!台积电、三星:暂停部分对华芯片出货

突发!台积电、三星:暂停部分对华芯片出货

云头条
2026-11-19 21:42:42
山东一女子上午死亡下午就被葬,警方发现端倪后,直接刨土验尸

山东一女子上午死亡下午就被葬,警方发现端倪后,直接刨土验尸

夜话奇谭
2026-11-19 14:06:25
胖东来撤走后,房东降到四百万依然没有人接盘!

胖东来撤走后,房东降到四百万依然没有人接盘!

城事堂
2026-11-19 14:03:31
任正非、马云、张一鸣、梁文锋为何缺席APEC工商领导人峰会?

任正非、马云、张一鸣、梁文锋为何缺席APEC工商领导人峰会?

微评社
2026-11-19 13:21:53
和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

澎湃新闻
2026-11-19 18:20:41
凌晨3:00,美联储全面宣战!50基点加息重回视野

凌晨3:00,美联储全面宣战!50基点加息重回视野

魏家东
2026-11-19 17:23:35
“如果华盛顿的提议属实,意义将非常重大”

“如果华盛顿的提议属实,意义将非常重大”

极目新闻
2026-11-18 15:00:24
普京和特朗普都已放话,只要人来了深圳,绝对不会错过金正恩

普京和特朗普都已放话,只要人来了深圳,绝对不会错过金正恩

漫步独行侠
2026-11-19 09:25:33
3-0大胜!3-2逆转!U17世界杯首日:亚洲球队遭首败 国足战西班牙

3-0大胜!3-2逆转!U17世界杯首日:亚洲球队遭首败 国足战西班牙

侃球熊弟
2026-11-19 23:58:23
深圳APEC有趣一幕走红:外宾额头贴退烧贴吃烤肉,全员坚持用筷子

深圳APEC有趣一幕走红:外宾额头贴退烧贴吃烤肉,全员坚持用筷子

行者聊官
2026-11-19 08:55:33
中国赢了!大获成功,美国现场给承诺

中国赢了!大获成功,美国现场给承诺

荆楚寰宇文枢
2026-11-19 23:18:05
震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

震惊!网友拍下望京星巴克一幕:多位老人摆放回收杯,假装消费休息占位,评论炸锅

火山詩话
2026-11-19 06:08:24
突发,沙特第一高楼遭胡塞导弹袭击受损!

突发,沙特第一高楼遭胡塞导弹袭击受损!

胜研集
2026-11-19 15:25:55
央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

墨兰史书
2026-11-19 14:00:10
日本彻底撕破脸!中日关系不可能回头,日本明确表示:中国是日本“前所未有的最大战略挑战”!

日本彻底撕破脸!中日关系不可能回头,日本明确表示:中国是日本“前所未有的最大战略挑战”!

扶苏聊历史
2026-11-17 14:55:44
2026-11-20 03:39:00
说法面对面 incentive-icons
说法面对面
普及法律知识,提高法律意识。
452文章数 123关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

本地
艺术
时尚
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

尼古拉·费欣:用色彩谱写交响曲的天才画家

被叫老板娘7年,张萌终于翻脸

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版