以假乱真的AI诈骗,如何防范?
生成图像、合成语音、伪装客服、伪造场景……
以假乱真的AI诈骗,如何防范?(民生一线)
上传一张静态照片,即可生成动态视频;只需几秒语音,就能克隆声音……这不是科幻电影,而是发生在身边的真实事件,“AI换脸”正成为侵权违法的重灾区。
近期,为规范应用人脸识别技术处理人脸信息活动、保护个人信息权益,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。办法将于2025年6月1日起施行。
人脸识别技术应用与人脸信息安全紧密相关。人脸识别具有唯一性、不可更改性、不可匿名性,一旦泄露,极易对个人的人身和财产安全造成危害,还可能威胁公共安全。
AI诈骗形式多样
换脸、变声、对口型
贵州省黔东南苗族侗族自治州凯里市公安局反诈中心负责人吴西福介绍,一家科技公司的负责人郭先生有一天接到好友打来的视频电话,说自己正在外地投标,需要几百万元保证金,想用郭先生的公司账户走一下账。不久后,好友说已经把钱转到郭先生的账户并截图证明。郭先生觉得通过视频能看到好友本人,便没等收到转账成功的通知就给好友转了钱。后来,郭先生迟迟没收到转款,联系好友时才发现自己被骗。
宁夏回族自治区银川市某公司部门经理张先生接到“老板”视频电话,对方称因情况紧急,急需转账汇款。在视频中确认是“老板”后,张先生放下了戒心,十几分钟内将20万元转入指定账户。直到下午当面汇报工作时,张先生才发现上当受骗。
这些案件都是典型的AI诈骗。“你以为在和朋友亲人视频聊天,其实是骗子使用的‘AI换脸’技术,让别人的嘴能够‘对口型’。”宁夏回族自治区公安厅刑侦总队副总队长、反诈中心负责人吴克刚介绍,如今,“AI换脸”技术不仅限于静态照片的活化,还能在即时视频通信中实时换脸。虽然需要采集大量不同角度的照片进行模型训练,但一旦成功,便可以假乱真。过去,公民个人身份证号、手机号以及家人信息需要重点防范,现在,人脸、声音、指纹等同样要避免泄露。
新型AI诈骗主要有以下类型:语音合成诈骗,不法分子利用AI技术,合成受害人亲友或熟人的声音,让受害人误以为是亲友或熟人需要帮助,进而实施电话诈骗;图像生成诈骗,不法分子通过AI技术,生成虚假的照片或视频,制造出受害人亲友紧急且合理的情景,从而获取个人信息,骗取钱财;智能客服诈骗,不法分子利用AI技术,制作智能客服系统,通过语音或文字同受害人交流,诱骗受害人提供个人信息或进行转账操作;AI情感诈骗,不法分子运用AI训练面向网聊的大语言模型,通过伪造场景、声音与受害人建立情感关系,进而获取个人信息。
吴西福介绍,共享屏幕等新型诈骗也要注意。不法分子以“提升信用卡额度”“航班延误退费”“赠送礼品”等为借口,向个人发送短信或拨打电话,诱导受害人下载指定软件,并开启软件的“共享屏幕”功能,就可以“实时监控”受害人手机、电脑屏幕,同步获取个人银行账户、口令、验证码等重要信息,从而盗取银行卡资金。
AI诈骗危害广泛
造成经济损失、心理创伤
相较于电信诈骗、网络诈骗,新型AI诈骗的受害者身份更广泛、多元,成功率更高,更难以追踪。
警方梳理后发现,新型AI诈骗有以下危害:造成经济损失,新型AI诈骗具有针对性强、高度逼真等特征,普通群众短时间内难以分辨,很容易上当受骗、遭受经济损失,甚至会给家庭带来沉重的经济负担;发生信息泄露,新型AI诈骗往往能获取受害人的个人信息,包括身份证号、银行账户、人脸、指纹等,进而滥用这些信息从事非法活动,导致受害人信息泄露,身份被盗用,引发潜在的法律风险;造成心理创伤,遭受新型AI诈骗,除了面临经济损失,受害人还可能产生焦虑、自责、抑郁等情绪,造成严重的心理创伤;危害社会治安,如果新型AI诈骗案件变多,容易让群众对社会产生不信任感,甚至造成恐慌情绪,有些受害者也因无法承担损失,走上违法犯罪道路。
新型AI诈骗案件增加,侦破难度加大,对公安机关来说也是挑战。吴西福说,只有不断提升民警的专业素质和侦查能力,加强对新型电信网络诈骗犯罪的研究,才能创新侦查手段和方法,提高打击效能。要加强与其他地区公安机关的协作配合,建立健全跨区域警务合作机制,形成打击合力。
有效防范AI诈骗
保护个人信息、学习识别方法
新型AI诈骗花样频出,伪装性越来越强,该如何防范?
吴克刚给出了两条防骗建议:视频通话时,让对方做出指定动作,比如眨眼3次、摸摸鼻子,或者让对方用手指或其他遮挡物在脸前晃动,如画面出现延迟或者异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术。在与对方的沟通中,也可以问一些只有对方知道的问题,比如生日、电话号码、喜好等,来验证对方身份的真实性。
我们也应该提高安全防范意识,防止个人脸部信息被非法获取利用。贵州警方提示,不轻信他人,不贪图小便宜。妥善保管个人信息,把好个人信息保护的第一道关。在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,不将身份证照片或号码保存在手机中,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上。在日常生活中,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人手机、电脑等终端设备的软硬件安全管理,不登录来路不明的网站,以免感染木马病毒。另外,对可能进行声音、图像甚至视频和定位等信息采集的应用,做好授权管理,不轻易给他人收集个人信息的机会,也能在一定程度远离“AI换脸”诈骗。
此外,公安机关也要创新线上线下反诈宣传,打造全方位反诈宣传矩阵。一方面,利用线上平台,深入挖掘本地发生的电信网络诈骗典型案例,结合地区特色、民俗以及当下流行的网络文化,拍摄制作风格独特、通俗易懂的反诈宣传短视频。通过短视频的形式还原诈骗分子的话术、作案流程以及背后的犯罪逻辑,帮助群众提高反诈意识。
推动反诈宣传进校园、进社区、进企业,将反诈宣传与群众喜爱的文化娱乐活动紧密结合,打造出一系列具有贴近性的反诈宣传场景。坚持精准施策,针对不同群体、行业和地区特点,开展有针对性的宣传,做到有的放矢,切实增强群众防骗意识和识骗能力。
警方也警告不法分子:通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统诈骗行为没有本质区别。对于构成诈骗罪的,将依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,将根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要追究刑事责任。
张天培苏滨
标签:
相关阅读
-
广西面向东盟共建“人工智能+”
今年以来,广西积极发挥独特优势找准赛道发力,面向东盟推进人工智... -
以假乱真的AI诈骗,如何防范?
生成图像、合成语音、伪装客服、伪造场景……以假乱真的AI诈骗,如... -
希姆计算发布“政企AI+”智能体
随着政企数智化转型进程的持续深入,各地在政务以及公共服务领域陆... -
探寻人工智能时代平台生态系统治理的破...
当前,全球数字经济已迈入以人工智能为核心驱动力的数治时代。平台... -
南京加快机器人产业集群发展
近期,江苏省南京市立足产业基础和核心优势,研究出台了《南京市促... -
346款生成式人工智能服务在国家网信办完...
记者4月8日从国家网信办获悉,为促进生成式人工智能服务创新发展和...
精彩放送
-
希姆计算发布“政企AI+”智能体
随着政企数智化转型进程的持续深入,各地在政务以及公共服务领域陆... -
广西面向东盟共建“人工智能+”
今年以来,广西积极发挥独特优势找准赛道发力,面向东盟推进人工智... -
探寻人工智能时代平台生态系统治理的破...
当前,全球数字经济已迈入以人工智能为核心驱动力的数治时代。平台... -
以假乱真的AI诈骗,如何防范?
生成图像、合成语音、伪装客服、伪造场景……以假乱真的AI诈骗,如... -
南京加快机器人产业集群发展
近期,江苏省南京市立足产业基础和核心优势,研究出台了《南京市促... -
346款生成式人工智能服务在国家网信办完...
记者4月8日从国家网信办获悉,为促进生成式人工智能服务创新发展和... -
“本源悟空”运行十亿级AI微调大模型
记者从安徽省量子计算工程研究中心获悉,近日,本源量子、合肥综合... -
今年流行“彩色下装”,这些日杂搭配美...
都说时尚是一个圈,七八十年代流行过的大红大绿的穿搭,今年似乎又... -
理解拉夫劳伦,理解奢侈品的中国增量
来源标题:理解拉夫劳伦,理解奢侈品的中国增量深响原创 ·作者|何... -
“体育大年”之下,运动服饰企业成绩如何?
从亚洲杯、欧洲杯,到巴黎奥运会、哈尔滨亚冬会,作为体育大年的202... -
童装立大功 森马服饰营收利润双增长
森马服饰近日发布2024年年度报告,营收和归母净利润实现双增长。受... -
金价跳水 黄金品牌促销忙
国际金价在刷新历史新高后,开启了回调模式,带动国内金饰品牌报价... -
《热烈》重映唤醒初心 Casper卡斯柏畅...
近日,青春励志电影《热烈》重回银幕,再度点燃观众对热血与梦想的... -
头部品牌业绩创新高 国产运动行业凝聚...
近日,随着李宁等品牌相继公布2024财年业绩,国产运动服饰行业交出... -
一套露营装备,打开休闲新方式
春光正好,户外的人们渐渐多起来。帐篷、天幕、草坪、美食,三五成... -
“包挂”风撬动年轻人消费市场 潮玩盲...
近年风靡时尚圈的包挂风(Bag Charms),指的是通过挂在包袋上小巧精... -
涨价会是高丝集团的解药吗?
高丝集团还是选择用产品涨价方式来对冲原料成本上涨,从而缓解业绩... -
乘联分会:3月乘用车降价车型数量23款,...
日前,乘联分会发布的数据显示,2025年降价促销力度仍保持较强水平... -
高标准规范促进汽车产业转型
日前,联合国欧洲经济委员会与国际电信联盟联合主办第20届未来联网... -
中国汽车在欧洲销量2月同比增长64%
自去年10月底欧盟针对中国电动汽车加征关税正式落地以来,中国车企... -
跨国车企加速重构中国战略
原标题:中国汽车市场正成为全球电动汽车技术创新的重要策源地跨国... -
欧盟寻求印度对进口汽车征收零关税
据路透社报道,消息人士透露,欧盟希望印度在一项长期悬而未决的贸... -
宝骏加速重回主流市场,技术旗舰享境预...
4月7日,宝骏汽车首款智能超舒适旗舰家轿—宝骏享境正式开启预售。... -
高层优化开启、产品攻势铺开,日产加速...
一系列管理层的最新任命,彰显出日产汽车的内部改革正在紧锣密鼓推... -
长城汽车携手宇树科技,共探“越野车+机...
近日,长城汽车发布公告称,为更好地推动机器人等先进技术与汽车制... -
车市由价格战转向价值战
原标题:车市由价格战转向价值战政策红利+车企发力催生新能源汽车市... -
“以旧换新”后,旧的去哪儿了?
以旧换新政策让老百姓得了实惠,但淘汰的旧手机、旧家电、旧汽车会... -
ChinaBio® 2025生物医药产业国际合作...
根据医药魔方InvestGo数据库,上个月在中国医疗健康一级市场共发生 -
山西红色旅游圈粉年轻人
与屏幕上的革命先辈对话,看AI修复的抗战老照片,听数字人讲述历史... -
江西进贤:“一根针”加速穿起“新医线”
江西省南昌市进贤县有一根针颇有来头:全国30%的一次性输注器械产自... -
湖北县域房地产市场转型发展观察:小城楼...
在新发展格局与新型城镇化双轮驱动下,湖北县域房地产市场悄然上演... -
河南周口:成立联合调查组,全面开展机动...
新华社新华视点栏目7日播发《本省车检过不了,换个省份就通关?——... -
从"歇脚处"变"心归处" 民宿经济何以持续升温
春和景明,踏青正当时。刚刚过去的清明假期,旅游市场持续升温,多... -
“城乡有差别、无差距” 2024-2035乡村这样变
农业强国是社会主义现代化强国的根基。近日,中共中央、国务院印发... -
浙江社会救助再扩面至“低收入帮扶家庭”
继2014年建立并实施最低生活保障边缘家庭救助制度后,浙江省如今又... -
顶层设计不断完善 低空经济“蓄势待发”
张晓玉4月7日,为保障通用航空和低空经济高质量发展,中央空管委印... -
开往森林的“伊春号”
当南方大地早已春暖花开,黑龙江伊春却依然沉浸在冬春交替的独特韵... -
一个沙漠县的生态治理变迁:从生态治沙...
黄河之畔的内蒙古磴口县是我国防沙治沙主战场之一。在党和政府领导... -
20多年种出又一个塞罕坝 筑牢京津生态屏障
核心阅读千松坝林场位于河北承德市丰宁满族自治县,成立20多年来,... -
天津文惠卡已吸引688万人次市民走进剧场...
记者从天津北方演艺集团8日召开的2025年度天津文化惠民卡发行新闻通... -
霍尔果斯口岸跨境游热潮再创新高!
中国太美了,这次旅行后,我一定要带家人再来!来自哈萨克斯坦阿拉木... -
“稳楼市”新阶段 房企如何“藏器于身”?
王丽新今年,稳住楼市股市被首次写进《政府工作报告》总体要求,重... -
大战略上勇担当 广东在更高起点上吹响...
这个春天,行走在岭南大地,总会被一种昂扬向上的蓬勃力量触动。在... -
天津港一季度集装箱吞吐量实现“开门红”
4月8日,在天津港太平洋国际集装箱码头,工作人员检查吊装设备。记... -
京津冀实现7.24亿条信用数据全量共享
北京市市场监管局8日发布消息称,自2023年11月签订《共建信用京津冀... -
上海已培育59家“AI+(联合)创新工作室”
上海振华重工是全球最大的港口机械装备制造商之一,致力于推动企业... -
以旧换新多重补贴叠加!各地答卷来了
今年以来,消费品以旧换新带动大宗消费提质升级,其中家电类产品的... -
12地获资金支持!公路水路交通数字化转...
今天,交通运输部、财政部发布第二批给予资金支持的公路水路交通基... -
当好耐心资本!多家保险企业表态:加大...
国家金融监督管理总局今日对外发布优化保险资金比例监管政策,加大... -
交易和价格出现积极变化 房地产市场延...
交易和价格出现积极变化,一线城市回暖态势明显房地产市场延续回稳... -
2025年“5·19中国旅游日”活动主题为“...
2025年5月19日是第15个中国旅游日。记者8日从文化和旅游部获悉,今... -
新疆霍尔果斯口岸今年一季度通行中欧(...
来源标题:新疆霍尔果斯口岸今年一季度通行中欧(中亚)班列达2375列... -
香港引入超过80间重点企业 预计在港投...
香港特区政府引进重点企业办公室8日举行重点企业伙伴签约仪式,新一... -
天津文惠卡已吸引688万人次市民走进剧场...
记者从天津北方演艺集团8日召开的2025年度天津文化惠民卡发行新闻通... -
“退”捕渔民“进”棚忙,鄱阳湖畔抢春耕
来源标题:退捕渔民进棚忙,鄱阳湖畔抢春耕仲春时节,长江干流江西... -
2025年注册会计师全国统一考试已开启报名
记者8日从中国注册会计师协会了解到,2025年注册会计师全国统一考试... -
8588万人次!创历史同期新高 铁路清明...
记者从中国国家铁路集团有限公司获悉,自4月3日铁路清明假期运输启... -
太湖世界文化论坛第八届年会将聚焦文明...
来源标题:太湖世界文化论坛第八届年会将聚焦文明互鉴与中国式现代... -
创历史同期新高!清明假期全国铁路共发...
来源标题:创历史同期新高!清明假期全国铁路共发送旅客8588万人次自... -
全国首条海陆柔直“输电高速”开建!绿...
来源标题:全国首条海陆柔直输电高速开建!绿电拼车直送4月7日,广东... -
我国电商物流活跃度进一步提升
来源标题:我国电商物流活跃度进一步提升中国物流与采购联合会4月8... -
中国农机“出海”跑出加速度
来源标题:【一线调研】中国农机出海跑出加速度浙江是我国农机出口... -
产粮大省黑龙江探索“定制农业”新路径
题:产粮大省黑龙江探索定制农业新路径近年来,全国产粮大省黑龙江... -
“咆哮式”劝人快乐的医生姜林凯:适当...
来源标题:适当放弃,才能活得轻松大胆做自己,自己爽才是天下第一!... -
与世界共享发展机遇,我们有信心
来源标题:与世界共享发展机遇,我们有信心太平洋两岸,全球两大经... -
离境退税“即买即退”政策推向全国
8日,国家税务总局发布《关于推广境外旅客购物离境退税即买即退服务... -
“情绪消费”成为消费新热点 年轻人爱...
来源标题:情绪消费成为消费新热点 年轻人爱上买快乐你买过能随身... -
这家农资店,如何做到一天进账20万元
来源标题: 新型肥料火了 优质种子多了 农药用量少了 这家农资... -
陶香与乐声共鸣!仰韶用“吹”讲好中国故事
-
银行业加速不良资产处置 优化结构服务...
近期,银行业普遍加快通过资产证券化、收益权转让等市场化手段处置 -
一碗好面的商机!沈四爷拌面招商助力创...
随着消费升级和餐饮行业的高速发展,面食作为国民刚需品类,市场规模 -
韩女团成员的美貌加分点还有它?润致格...
在众多的韩国女团中,Aespa中的吉赛尔在近期的舞台上“杀疯了”!她 -
2025杭州应急消防展 为什么吸引整个行...
由浙江省消防协会、浙江国信展览有限公司联合主办,浙江省防灾减灾 -
2025米兰设计周将启 百年奢品家电ASKO...
4月8日-4月13日,2025年米兰设计周将在意大利米兰盛大开幕。作为全 -
公众责任险的赔付责任限制
公众责任险(Public Liability Insurance)是一种为了保护企业或 -
璀璨天然钻石,点亮红毯星光
2025年欧美颁奖季在万众瞩目中相继落下帷幕,各类盛典上汇聚了全球 -
4月1日起连续六天大风!北京发布森林火...
来源标题:今起连续六天大风!北京发布森林火险橙色预警北京市森防办... -
中国气象局:预计4月北方地区将有五六次...
来源标题:中国气象局:预计4月北方地区将有五六次沙尘天气4月1日下... -
预计4月份将有4次冷空气过程影响北方地区
中国气象局预计,4月份将有4次冷空气过程影响我国北方地区,较常年... -
四川苍巴高速公路建成通车
记者从中国铁建股份有限公司获悉,4月1日,四川苍溪至巴中高速公路... -
清明节假期全国口岸预计日均210万人次出入境
国家移民管理局4月1日预测,今年清明节假期全国口岸日均出入境人员... -
产业“造血”人才“供血” 助力打造省...
来源标题:产业造血人才供血 助力打造省级乡村振兴示范村春耕春播... -
中国气象局发布“清明”假期天气:北晴南雨
来源标题:中国气象局发布清明假期天气:北晴南雨国家气候中心副主... -
推50项适老化服务!国铁沈阳局开行“银...
据中国铁路沈阳局集团有限公司(下称国铁沈阳局)消息,随着东北天气... -
高校如何给AI工具使用“立规矩”?
原标题:学生利用AI工具辅助论文写作现象愈发普遍,使用规范和学术... -
贵州苗族服装设计师杨春林:“村T”有3...
原标题:把民族服饰送上时装周的贵州苗族服装设计师杨春林:村T有3... -
多家银行消费贷利率上调
来源标题:多家银行消费贷利率上调近期,银行消费贷款市场迎来新变... -
我在春天找寻雄安的模样
河北雄安新区设立以来,从无到有,从蓝图到实景。如今的雄安,到底... -
96%的事项可网上办!税收数据折射哪些经...
来源标题:96%的事项可网上办!税收数据折射哪些经济亮点?1月1日至3... -
清明节假期全国口岸日均出入境人员将达2...
来源标题:清明节假期全国口岸日均出入境人员将达210万人次记者彭景... -
文化中国行丨青铜器“生病了”怎么办?...
来源标题:文化中国行丨青铜器生病了怎么办?来看文物医生如何治疗青... -
孤独症儿童长大成人后只能待家里吗?—...
来源标题:孤独症儿童长大成人后只能待家里吗?——大龄孤独症患者就... -
“硬件”更完善 “软件”更智能 探访...
来源标题:硬件更完善 软件更智能 探访四省灌区看春灌春灌大面积... -
投资中国就是投资未来
来源标题:投资中国就是投资未来近日举行的中国发展高层论坛2025年... -
4100+品牌、71国参展!这场国家级展会有...
来源标题:4100+品牌、71国参展!这场国家级展会有这些看点→第... -
文化中国行|赏花游持续升温 “乡”遇...
来源标题:文化中国行|赏花游持续升温 乡遇春光精彩纷呈春风和煦,... -
清明假期将至 热门目的地抢先看
来源标题:清明假期将至 热门目的地抢先看清明假期(4 4—4 6)马... -
一线调研丨 农机“出海”忙 看春耕里...
来源标题:一线调研丨 农机出海忙 看春耕里的全球生意近年来,我... -
今天,年轻人如何欣赏中国画
来源标题:今天,年轻人如何欣赏中国画中国画是中华优秀传统文化瑰... -
人机共创|AI+万物=∞
来源标题:人机共创|AI+万物=∞舞台灯光渐暗,25岁的周键抬起...