网易首页 > 网易号 > 正文 申请入驻

AI变脸助长电信诈骗激增,亟需多方防范对策

0
分享至

在科技飞速发展的当下,AI(人工智能)给咱们的生活带来了诸多便利,但一系列利用AI的新型犯罪,也给社会安全与稳定带来了严峻挑战。



本人在浙江省办理的一起涉嫌诈骗案中,犯罪嫌疑人就是通过各种途径收集大量个人信息,运用 AI 算法进行深度分析,把受害人的兴趣爱好到消费习惯,及社交关系到财务状况,都摸得一清二楚;再通过采集受害人多角度照片或短视频之后,利用AI 变脸技术已从静态图像伪造发展为实时动态视频合成实施诈骗。更严重的是,犯罪团伙甚至能实时替换视频通话中的人脸,在对话过程中动态调整表情和动作,而现有技术对动态伪造视频的识别率不足 80%,部分检测工具在低分辨率或复杂光线环境下准确率骤降至 50% 以下,普通用户难以察觉异常。

据公安部数据显示,2025 年一季度全国 AI 换脸诈骗案环比再增 45%,老年群体受骗占比达 38%,成为主要目标,单笔最高损失达 620 万元(上海某企业高管被骗案例)。香港荃湾 2025 年 4 月破获的诈骗中心,通过 AI 换脸假扮 "美女" 诱导受害人开设虚假电商平台,每周骗款高达百万元,涉及跨境犯罪网络。当前,犯罪团伙通过爬取社交媒体、外卖地址等信息构建 "受害人画像",使诈骗成功率提升 2.3 倍,而尽管《人脸识别技术应用安全管理办法》于 2025 年 6 月 1 日施行,但对 AI 生成内容的 "显著标识" 标准尚未明确,平台审核责任缺乏操作指引,技术提供者追责机制也不完善,防范形势严峻。



为有效遏制 AI 变脸电信诈骗的蔓延,切实保障人民群众财产安全,提出以下建议:



一、完善法律体系,压实主体责任。参照欧盟《人工智能法》,在《反电信网络诈骗法》中增设专门条款,明确 "为诈骗提供 AI 换脸工具者,除依法追究刑事责任外,可处违法所得 5-10 倍罚款,最高不超过 5000 万元";规定技术平台未履行 AI 生成内容审核义务的,由网信部门责令暂停相关业务直至整改达标。2025 年底前,由国家网信办牵头出台《AI 生成内容标识管理细则》,强制要求对深度伪造的音视频添加不可去除的水印标识,如在视频角落标注 "合成内容" 电子标签,从法律层面明确内容生产者的标识义务。

二、强化技术反制,筑牢安全防线。推动金融、政务、支付等重点领域强制部署高精度检测技术,2025 年 12月底前实现 100% 覆盖。推广成熟检测系统(准确率超 96%),支持其与国家反诈中心数据互通,实时共享新型伪造特征库。在数据安全管理方面,由国家发改委、工信部牵头,2025 年底前在金融、医疗行业试点人脸数据 "区块链存证 + 国密算法加密" 技术,确保数据采集、存储、使用全流程可追溯、不可篡改。企业采集人脸信息时,须采用隐私计算技术,通过多方安全计算实现 "数据可用不可见",违规泄露人脸数据的企业,除承担民事赔偿外,相关责任人依法追究刑事责任。

三、构建多维反诈宣传体系,提升反诈能力。要通过宣传提升群众防范意识,提醒群众保护个人生物信息,谨慎对待不明链接、邮件。针对老年人,在社区、老年大学开展“AI 反诈工作坊”;针对企业财务人员,联合行业协会开展 “反诈模拟演练”,识别伪造高管指令的常见话术。利用短视频平台制作 “AI 诈骗拆解” 系列动画,还原诈骗分子如何通过外卖信息、社交动态定制剧本,提示公众避免在网络暴露人脸、声纹等敏感信息。推广“国家反诈中心 APP”的“AI 预警”功能,实时拦截可疑视频通话。构建起“全民参与、全域覆盖”的防御网络,让AI犯罪无处遁形。

四、深化源头治理,强化跨境打击。外交部会同公安部与“一带一路”国家建立 AI 犯罪情报共享平台,建立 "48 小时跨境协查机制",共享犯罪团伙的技术特征、资金流向和人员信息,联合开展系列专项行动,实现对跨境诈骗团伙 "资金链 + 技术链 + 人员链" 的同步打击,2025 年内力争联合侦破至少 20 起重大跨境 AI 诈骗案件。(文/湖南君杰律师事务所许小军)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
赵本山唱慌啥子嘛,网友却说:你是不慌,我车贷房贷能不慌?

赵本山唱慌啥子嘛,网友却说:你是不慌,我车贷房贷能不慌?

蜜桔娱乐
2026-11-19 09:25:18
美国沸腾了,感谢中国,当场表态了

美国沸腾了,感谢中国,当场表态了

荆楚寰宇文枢
2026-11-19 23:22:39
曝开拓者惊天清洗计划!诺里携卡尔森打包走人,只为给杨瀚森让位

曝开拓者惊天清洗计划!诺里携卡尔森打包走人,只为给杨瀚森让位

生活新鲜市
2026-11-20 00:50:34
供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

供应商快被拖死了,工信部出手,点名17家车企,欠款不能不还,更不能一拖再拖了

王新喜
2026-11-18 12:06:06
佩顿纪录告破!哈登你太狠,佩顿用17年创造的纪录,被你超越

佩顿纪录告破!哈登你太狠,佩顿用17年创造的纪录,被你超越

大西体育
2026-11-19 11:00:18
黄仁勋输得不冤!董事会的十位大佬,一群金融营销精英,到底是怎么上桌的?

黄仁勋输得不冤!董事会的十位大佬,一群金融营销精英,到底是怎么上桌的?

起点人文
2026-11-19 18:49:04
“消费入座”新规刚推行不到一个月!北京望京老人从回收盆拿杯子装点单,倒保温杯水喝,网友吵成两派

“消费入座”新规刚推行不到一个月!北京望京老人从回收盆拿杯子装点单,倒保温杯水喝,网友吵成两派

王老师你还好吗
2026-11-20 01:33:28
炸锅 !宁德时代报警抓理想!双方分手内幕全曝光!

炸锅 !宁德时代报警抓理想!双方分手内幕全曝光!

电动内参
2026-11-19 16:02:28
欧盟拟向乌克兰追加450亿欧元贷款

欧盟拟向乌克兰追加450亿欧元贷款

环球网资讯
2026-11-19 08:58:28
曾经精准预测俄乌冲突必将爆发的日本学者矢野义昭表示:如果中日冲突,日本很容易变成第二个乌克兰

曾经精准预测俄乌冲突必将爆发的日本学者矢野义昭表示:如果中日冲突,日本很容易变成第二个乌克兰

扶苏聊历史
2026-10-26 15:49:06
印度打不赢巴基斯坦是因为后面有个中国,俄罗斯打不赢乌克兰是因为后面有个欧洲,美以联军打不赢伊朗是因为什么呢?

印度打不赢巴基斯坦是因为后面有个中国,俄罗斯打不赢乌克兰是因为后面有个欧洲,美以联军打不赢伊朗是因为什么呢?

扶苏聊历史
2026-10-06 11:41:05
补钾就是保命,立冬后多吃3种“高钾菜”,腿脚有劲,安稳过冬天

补钾就是保命,立冬后多吃3种“高钾菜”,腿脚有劲,安稳过冬天

花小厨
2026-11-19 10:18:26
A股:明日会不会有更大的暴风雨?提前给出答案,谨防绝地反击

A股:明日会不会有更大的暴风雨?提前给出答案,谨防绝地反击

虎哥闲聊
2026-11-20 00:00:04
山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

罪案洞察者
2025-03-31 09:35:41
已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

青史卷中人
2026-11-20 00:42:47
中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

扶苏聊历史
2026-10-30 14:34:51
拜仁主席:奥利塞连想都不该想皇马,3亿欧也不卖

拜仁主席:奥利塞连想都不该想皇马,3亿欧也不卖

体坛观察猿
2026-11-20 03:33:31
从全网泪目到全网群嘲,赵本山只用了三天

从全网泪目到全网群嘲,赵本山只用了三天

梳子姐
2026-11-19 12:05:24
浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

台州交通广播
2026-11-20 00:28:00
“世界的新重组”:意大利记者首访深圳,感叹这里成全球焦点

“世界的新重组”:意大利记者首访深圳,感叹这里成全球焦点

南方都市报
2026-11-19 20:36:38
2026-11-20 03:44:49
说法面对面 incentive-icons
说法面对面
普及法律知识,提高法律意识。
452文章数 123关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
艺术
教育
本地
公开课

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版