您的位置:首页 >资讯 > IT >

以假乱真的AI诈骗,如何防范?

2025-04-09 14:21:49    来源:人民日报

生成图像、合成语音、伪装客服、伪造场景……

以假乱真的AI诈骗,如何防范?(民生一线)

上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。

近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。

人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。

AI诈骗形式多样

换脸、变声、对口型

贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。

宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。

这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。

新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。

吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。

AI诈骗危害广泛

造成经济损失、心理创伤

相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。

警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。

新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。

有效防范AI诈骗

保护个人信息、学习识别方法

新型AI诈骗花样频出,伪装性越来越强,该如何防范?

吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。

我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。

此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。

推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。

警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。

张天培苏滨

标签:

相关阅读

精彩放送

“本源悟空”运行十亿级AI微调大模型

人工智能大模型激烈比拼 纵深开拓应用场景成致胜关键

体育经济“跑”出消费新场景

克难攻坚 国盾量子深深扎根量子科技产业化

美的集团发力人形机器人赛道

5G-A助力人形机器人“加速跑”

雪落有声!吉林打造冰雪经济发展新高地

“人工智能+”,央企咋布局?

“赛事经济”加速度 跨界联动全链条消费场景

感受“未来之城”的意蕴

“赏花经济”激活消费新动能

在武汉,看一城花开

节令之美丨梨花风起正清明,游子寻春半出城

黑土地“小巨人”:练就独门绝技 掘金细分赛道

健身直播间跑出“汗水经济” 线上健身热潮催生健康消费“新蓝海”

推动高质量发展要用好科技创新关键变量

全球首次对比展出月球正面和背面样品 “九天揽月——中国探月工程20年”展览开幕

商务部:大力推进数字、绿色、智能消费

即刻关闭手机“免密支付”

AI玩具热潮席卷义乌市场

“九天揽月——中国探月工程20年”展览在国博举办

为乡村全面振兴注入数据动能

“一脑多态”赋能,7款人形机器人解锁多元应用场景

“九天揽月——中国探月工程20年”展览开幕

SpaceX极地轨道载人任务有哪些看点

新计算单元能模拟电子神经元和突触行为

新一代超薄光帆具有高反射率有助实现高速太空旅行

受蜜蜂启发 可控飞行的最小无线机器人问世

以科技创新驱动蓝色未来

探索国际科技合作新路径

构建全球创新生态新范式

5G-A助力人形机器人“加速跑”

折叠屏手机销售火热 产业链上下游积极扩产

“东数西算”新支点 “中国算谷”正崛起

人工智能大模型激烈比拼 纵深开拓应用场景成致胜关键

体育经济“跑”出消费新场景

克难攻坚 国盾量子深深扎根量子科技产业化

美的集团发力人形机器人赛道

5G-A助力人形机器人“加速跑”

雪落有声!吉林打造冰雪经济发展新高地

“人工智能+”,央企咋布局?

杭州试点打造国家级数据“高速公路”

人工智能新模型可精准预测雷击引发野火风险

3月全球人工智能领域新看点

《易达威学术微课堂》首期录制圆满启动!对话五大领域学者

琼港澳签约合作构建“黄金旅游三角区”

杭州试点打造国家级数据“高速公路”

上海推动主题公园矩阵提质升级 "快乐经济"投资加码

找增量转动能,湖南构建工业增长“第二曲线”

雪落有声!吉林打造冰雪经济发展新高地

海南离岛免税提货新规实施两年 购物总金额超70亿元

多举措促发展 重庆加快打造民营经济发展高地

寒区试车:让“冷资源”点燃“热引擎”

辽河油田丰富AI大模型应用场景

“甘”牌寒旱农业成果“落地生金”

东风汽车博物馆在湖北十堰开馆

广汽丰田玩转新媒体背后,不仅仅是流量的破局

广州车企抢占智能出行生态高地

跳出无序竞争 汽车业要变“抢蛋糕”为“做蛋糕”

2025年3月中国汽车经销商库存预警指数为54.6%

市场规模UP!中国“多点发力”推动新能源汽车高质量发展

动力电池产业要居安思危

汽车消费政策透视:短期激活市场 长期重塑产业格局

小米通报“SU7高速碰撞爆燃”细节

广汽本田新能源工厂投产 首款纯电动车型P7同步下线

凝聚32年时尚力量 真维斯再获亮眼成绩

LVMH任命腕表部门新CEO

利润增长超70% 昔日“女鞋王”归来?

重塑消费端,新老珠宝品牌交相辉映

匠心意蕴 瑰彩绽放 BVLGARI宝格丽“珍品鉴赏”高级珠宝及腕表展亮相京城

第十四届“大浪杯”中国女装设计大赛初评收官

温柔清雅 “浅春系”穿搭有点甜

纺织行业加速“智”变

平均店效超越国际奢侈品 老铺黄金如何打破黄金“围城”

资生堂求解医美赛道

保粮安 助春耕 | 国投罗钾在云南曲靖基层市场开展产品推广暨技术交流会

智启云川:开启AI算力轻资产时代,助力企业数智化转型

链接全球机遇,赋能跨境人才——2025职场无界峰会盛大召开

2025年龙江服务消费季暨乳制品展销节盛大启幕

2025中关村论坛见证:禾美生物与一轻控股携手共筑日化科技创新未来

怎么选择合适的跨境出海服务商?我们测评了这几家

北斗技术加持,UniStrong 智能挖掘机系统迈向新高度

【一起跑一场,一起喝一杯】凤鸣未央,跑醉春风——2025西凤375酒全民健康跑欢乐收官

水井坊战略迭代 治愈消费者的酒桌焦虑

阿里妈妈联合益普索重磅发布《2025向新·趋势白皮书》,与商家携手抢占新消费市场

2025大连大樱桃品牌发展大会盛大启幕

三生有幸 感恩有您 | 小茅生日主题活动即将开启~

问界新车引爆市场,广发卡以绿色金融助力鸿蒙智行“百万目标”

破局出海隐形门槛!Pattern栢藤全链路助力品牌全球化拓展

老板电器AWE首发"光焱金钢舱",定义洗碗机真消毒新标准

智驾时代,传祺向往吹响进击号角

广西凌云万亩李花进入盛放期 农旅融合促振兴

商务部:前2月服务零售额同比增长4.9%

抢“鲜”生意手慢无 云南鲜花香飘世界

陕西专门立法加强黄帝陵保护 4月1日起施行

一站式康养+旅居养老+陪诊服务 “银发经济”蓬勃发展、潜力无限

农业农村部推出“美丽乡村游”60条精品线路 有何“亮点”?90秒快速了解!

韧性强、潜力大、活力足 今年消费市场总体将呈现平稳发展态势

文化中国行 | 一半诗意,一半烟火 这是属于侗寨鼓楼的时光胶囊

新疆多地遭遇降雪降温天气 各部门多举措保生产保畅通

超级三月燃动香港国际机场,共赴全新品质购物之旅

“春赏花、秋食果”沉浸式感受神州大地满园春色和澎湃活力

中国家电及消费电子博览会直击:家电尝试拥抱AI “以旧换新”探新模式寻增长点

高层论坛2025|以高质量数据促进人工智能发展,国家数据局将开展四方面工作

瞭望 | 原子级制造驱动未来产业

新品密集发布 人形机器人加速产业“进化”

我国首次实现上万公里星地量子通信

智能公共设施“失能”谁来管