算法界上演“猫鼠游戏”连续剧
医疗手术、无人驾驶、围棋对弈、随手可用的翻译……近十年来,人工智能(AI)取得了巨大进步。而这,要得益于人工神经网络的发展。
这一神经网络的模式,效仿的是我们人类的大脑,在大规模应用时,也被称为深度学习,其能够自己发现数据的模式,而无需明确指令。
深度学习虽然可以在大数据训练中学到正确的工作方法,却也很容易受到恶意干扰。攻击者们通常会通过输入恶意数据来欺骗深度学习模型,导致其出现严重故障。
面对恶意算法欺骗,人工智能如何反击?英国《自然》网络版日前的报道称,现在,计算机科学家正在多方寻找对策,以便让人工智能更安全。
AI:我因“学习”而受伤
“学习”,是人工智能的核心,也是使计算机具有智能的根本途径。
深度学习的主旨,是让计算机去模拟或实现人类的学习行为,以获取新的知识或技能,并重新组织已有的知识结构,使之不断改善自身的性能。
但同时,深度学习算法的不可预测性,使其需要不断挖掘。
对于家庭和个人手机来说,虚拟智能化助理的应用越普遍,恶意攻击就越可能随时发生。有些信息眼看、耳听都没有问题,却能“暗藏杀机”——隐藏着劫持设备的指令。
举例来说,人工智能“看”图像的模式,和人类的肉眼大不一样。通过微妙改变图像的某些部分,再输入后的图片即使肉眼看来一模一样,计算机看起来却大不相同。这就叫对抗性示例。
除了图像,声音也会有同样的问题,只要修改了一个语音片段,人工智能就可能修改成完全不同的语音指令。
无需隐身,也能抓住攻击者
不过,在不久前召开的国际学习表征会议(ICLR)上,美国伊利诺伊大学香槟分校的计算机科学家拿出了一种对抗攻击的方法。
他们编写的算法可以转录完整的音频以及单个片段。如果单个片段转录出来和完整音频中的对应部分不完全匹配,那么算法会立即用一面小红旗做出标记,表明音频样本可能已遭攻击。
在攻击测试中,面对几种不同类型的修改,该算法几乎都检测到了异常情况。此外,即使攻击者已经了解到有防御系统的存在,大多数情况下还是会被抓住。
这套算法拥有令人惊讶的稳定性。谷歌大脑团队的科学家尼古拉斯·卡林尼评价称,其最具吸引力之处在于它的“简单”。另有与会专家认为,随着对抗性攻击越来越常见,谷歌助手、亚马逊和苹果等服务,都应当应用这种防御系统。
然而,攻击和防御之间,注定是一场持久的“猫鼠游戏”。卡林尼表示:“我毫不怀疑有人已经在研究如何攻击这种防御系统了。”
提前演练,对攻击免疫
也有的研究团队在另辟蹊径。
就在本周,澳大利亚联邦科学与工业研究组织下属团队公开了一套算法,其通过效仿疫苗接种的思路,帮助人工智能“修炼”出抗干扰能力。
所谓“疫苗算法”,就是在识别图片时,能够对图片集合进行微小的修改或使其失真,以激发学习模型“领会”到越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。经过此类小规模的失真训练后,最终的抗干扰训练模型将更加强大,当真正的攻击到来之时,机器学习模型将具备“免疫”功能。
这其实是针对深度学习模型专门打造的训练。因为它会“学习”,所以也会学着纠错。
邮件过滤器:效果不尽人意
邮件过滤器真的已经很努力了,但效果并不尽如人意。
这是因为防御与攻击总是相伴相生。随着漏洞越来越多的被察觉,人工智能拥有更多的防御能力,恶意攻击也在不断进阶。
在4月召开的美国系统和机器学习大会(SysML)上,德克萨斯大学奥斯汀分校的计算机科学家们揭示了机器学习算法在文本理解方面的漏洞。
有些人认为文本不容易被攻击,因为恶意欺骗可以对图像或声音波形进行微调,但改变任何文字都会被察觉。可科学家告诉我们不是这样。
恶意攻击会瞄准一些同义词,文本含义不发生改变,但深度学习算法却可能因此而判断错误——垃圾邮件成了安全的,假新闻被合法推送。
科学家们演示了一套恶意攻击程序,它甚至会检测文本分类器在判断是否含有恶意时,最依赖的是哪些词语。接着,它挑选出关键词的同义词,替换,然后飞速开始测试下一个关键词。在这套算法攻击下,过滤器的准确率急剧下降。
不过,将这些手段公诸于众,究竟可以提高防御能力,还是会加剧攻击手段,目前仍有争议。此前,已经有AI实验室拒绝公开一种攻击算法,因为担心它被滥用。
(科技日报北京7月2日电)
标签:
相关阅读
-
空调不制热是什么原因?空调不制热如何...
随着气温的逐渐降低,各种家用取暖电器纷纷派上了用场,不过随着使... -
2022年有多少流星雨?流星雨观测注意事项
新的一年即将到来,我们又将邂逅属于2022年的一场又一场的流星雨盛... -
星星为什么会发光?星星亮度用什么表示?
星星发光原因:星星就是类似太阳一类大的天体,其本身内部会发生反... -
丰田新技术用甘蔗“造车” 比玻璃纤维...
近日,据媒体报道,丰田旗下的零部件厂商丰田铁工与名古屋大学开始... -
美国法院推迟相关动议 苹果继续向...
苹果股价再度刷新历史高位,市值也逐步接近3万亿美元。而就在一年多... -
谷神星一号遥二运载火箭发射升空 5...
北京时间12月7日12时12分,谷神星一号遥二运载火箭在我国酒泉卫星发...
精彩放送
-
富银融资租赁与快易名商完成定向增发,...
富银融资租赁(深圳)股份有限公司(证券代码:08452,以下简称富银融... -
多地鼓励市民“非必要不离开” 就地过...
“就地”过春节,精彩不一样春节临近,疫情反复,各地疫情防控面临... -
各地各部门提供多样服务 慰问坚守岗位...
核心阅读为了保障春节假期城市运行平稳有序,许多人在自己的工作岗... -
冬奥会主题MV丨《最美中国画》
“喝中国茶,看中国画”,由时代少年团演唱的《最美中国画》MV今天... -
冬奥歌曲MV《美美与共》
此页面是否是列表页或首页?未找到合适正文内容。 -
寒假怎么管住“熊孩子”?要让娃远离这...
寒假期间,怎么管住“熊孩子”?如何关注“乖孩子”的心理健康?这... -
十二部门印发意见 鼓励民营企业招用自...
近日,退役军人事务部、中央统战部、教育部、科技部、工业和信息化... -
中央气象台发布暴雪黄色预警:湖北西南...
据中央气象台网站消息,中央气象台1月27日6时发布暴雪黄色预警:预... -
【光明漫评】致敬,万家团圆背后的坚守
“一年将尽夜,万里未归人。”春节将至,年味渐浓。此时节,春运浩... -
“不负韶华 国聘行动”已累计提供超40...
由中央广播电视总台携手多部委举办的国聘行动第三季“不负韶华国聘... -
“飞临”探秘冬奥场馆:振翅海拔两千米...
中国经济网北京1月26日讯(记者董家朋)国家高山滑雪中心位于北京延... -
中国冰雪运动“难出山海关”?那是过去!
你是否听说过中国冰雪运动“难出山海关”的说法?受制于自然因素等... -
少了冰雪,湖南长沙小学生这样迎冬奥
央广网长沙1月25日消息(记者唐丽丽)“双减”之后的首个寒假,湖南... -
相约冰雪,一起来丨五星耀冰雪·成绩从...
央视网消息:1979年10月25日,国际奥委会执行委员会在日本名古屋举... -
国台办发言人以普通话和闽南、客家方言...
“虎年临近,新春大吉。祝两岸乡亲大吉大利,阖家团圆,欢欢喜喜过... -
工信部:3至5年内逐步取消来电显示费用
近日,有网友在人民网“领导留言板”上问“来电显示费用何时能够取... -
中东部强降雪来袭 进入“五九”南方多...
预计今明两天(1月26日至27日),随着冷空气东移南下与暖湿气流交汇... -
公安部等11部门联合开展打击治理洗钱违...
据公安部网站26日消息,为依法打击治理洗钱违法犯罪活动,进一步健... -
《2022中华壬寅国宝币玺》首发暨收藏仪...
日前,由中国工美集团出品的《2022中华壬寅国宝币玺》首发仪式在京... -
激发乡村人才创新创业热情(新论)
随着乡村振兴的推进,劳动者通过诚实劳动、辛勤劳动、创新创业实现... -
【冬奥有我·我的冬奥日常②】漫画丨培...
【冬奥有我·我的冬奥日常】北京2022年冬奥会和冬残奥会已近在咫尺... -
冰雪之约|张家口赛区赛场准备就绪
央视网消息:张家口赛区是北京冬奥会雪上项目的主要举办地。目前这... -
冬奥会主媒体中心处处洋溢中国风
【北京冬奥我们来了】光明日报北京1月25日电(记者王东、黄小异)十... -
励普教育:2021年注册安全工程师纸质证...
近日,中国人事考试网更新了注册安全工程师的办理进度,1月18日下达... -
127053豪美转债中签号共166555个 上市时间一览
打新债风险低,并且中签的话是能够获取收益的。一般新债在申购之后... -
池州市加强房地产领域信用管理体系建设...
近年来,我市不断加强房地产领域信用管理体系建设,整顿和规范房地... -
河南鹤壁推动外贸逆势增长 2021年货物...
疫情给我们的外贸业务带来了一定的冲击,但在鹤壁市商务局的指导支... -
中国奢侈品消费潜力不断释放 有望成全...
中国仍在上演世界上最好的消费故事,由于出境游受限,大部分中国消... -
满足你的春节高质量出行,捷途X90子龙别...
爆竹声声辞旧岁,锣鼓声声迎新年。新年对于国人来讲向来有着辞旧迎... -
春节旅游大市场冷冬有热度 自驾游成主...
虎年春节即将来临,在疫情常态化防控背景下,春节旅游消费依然呈现... -
春节临近生肖经济如“虎”添翼 虎年金...
生肖酒水、生肖服装、生肖首饰……生肖属相是中国人与生俱来的标记... -
淮海经济区首个保税维修业务!进境维修...
去年年底,一批进境维修设备在完成海关申报后顺利进入徐州综保区并... -
10口岸启动跨境贸易便利化专项行动 打...
2022年促进跨境贸易便利化专项行动日前启动。北京、天津、上海、重... -
靠前发力!到2025年我国出入境旅游有序推进
在全球旅游业发展不确定性明显增加的背景下,十四五时期,我国旅游... -
炫朗带来全新漱口体验,呵护牙齿更能补...
当代年轻人的社交新宠是啥——当仁不让非漱口水莫属啦!漱口水作为口... -
用户要的强动力和低油耗看这里,揭晓捷...
在老观念里,我们一直把三大件视为自主品牌的软肋。但士别三日,当... -
FLCEAsia2022亚洲食材展 聚焦预制菜展
广东省农业农村厅日前召开了预制菜双节营销工作会议,决定办好双节... -
挪亚检测认证验厂优势是什么?
验厂从流程上理解,就是将国际验厂标准实行到国内。获得挪亚检测认... -
新春走基层 |“中国沙乡”:乡村振兴“...
位于甘肃省河西走廊东北部的民勤县,东西北三面被巴丹吉林和腾格里... -
山西介休 新春走基层 南桥头村:重建...
此页面是否是列表页或首页?未找到合适正文内容。 -
退伍不褪色,春运保安全
【春运进行时】光明日报记者马荣瑞光明日报通讯员刘振华“当、当、... -
新春走基层·邮包里的惦念 欧阳老师牵...
此页面是否是列表页或首页?未找到合适正文内容。 -
西安:恢复常态过小年 供应充足备货忙
西安:恢复常态过小年供应充足备货忙01:541月24日,西安市城隍庙内... -
秦岭慢火车上的幸福年
央广网西安1月25日消息(记者刘涛通讯员杜得粉李改群)1月25日是农... -
全棉时代保暖360系列丨亲肤柔软,全棉更暖
随着经济水平不断提高,人们的消费观念持续升级,越来越多人青睐舒适... -
首届全球数字贸易博览会合作伙伴征集公告
首届全球数字贸易博览会(以下简称:数贸会)于2022年3月24-27日在... -
崔传桢撰文:从李白《嘲王历阳不肯饮酒...
一个强大的国家必然有自己高度自信的文化。文化自信是一个民族、国... -
第一百货花样大拜年
新春佳节至,年味渐浓,上海第一百货商业中心陆续迎来消费小高峰。... -
当之无愧的爆款!全新第二代GS8满足你的...
越来越多二胎、三胎家庭对于SUV后座乘坐舒适度的要求提高,乘坐舒适... -
施工影像资料管理应该用什么工具软件方...
在建筑工程施工中,施工资料真实记录的施工过程,所以施工资料在工... -
白象食品:向下扎根25年,是为了获得向...
中华上下五千年,源远流长。经历了无数风雨和战火的中国,开始走向... -
各地节前走访慰问城市困难群众,确保帮...
各地节前走访慰问城市困难群众,确保帮扶精准到位——送年货送陪伴... -
银保监会:去年全年共处置银行业不良资...
中新社北京1月25日电(记者王恩博)中国银保监会25日发布消息称,2022... -
中央气象台发布暴雪蓝色预警:陕西湖北...
据中央气象台网站消息,中央气象台1月26日6时发布暴雪蓝色预警:预... -
应急管理部指导协助地方做好低温雨雪防...
中新网1月25日电据应急管理部网站消息,1月25日,应急管理部向江苏... -
国家卫健委:昨日新增本土确诊24例、本...
央视网消息:据国家卫健委网站消息,1月25日0—24时,31个省(自治... -
消费电子龙头上市公司有哪些?和胜股份...
消费电子龙头上市公司有哪些?和胜股份002824:近7日和胜股份股价下... -
碳纳米管概念龙头股有哪些?天奈科技业...
周二盘后要闻,碳纳米管概念报跌,长江健康(4 55,-6 38%)领跌,... -
新潮流紧凑型MPV,传祺M6 PRO超级0首付...
国家开放二胎以及紧随其后推出的三胎政策,无疑给MPV市场打了一剂振... -
表面处理概念上市公司有哪些?三美股份...
1月25日盘后,表面处理概念报跌,豪美新材(16 74,-10%)领跌,金固... -
2022年锂电池电解液概念股票有哪些?新...
1月25日盘后消息,锂电池电解液概念报跌,永太科技领跌,长园集团、... -
10天倒计时 从时间轴纵观冬奥七年筹办路
【北京冬奥会】10天倒计时从时间轴纵观冬奥七年筹办路【解说】1月25... -
人民体谈:线上火炬护跑留言情暖冬奥
冬奥在即,中国民众对于冬奥会的热情日益高涨。1月23日,由北京冬奥... -
人民体谈:牧民策马送健儿,全民共享的...
茫茫雪原上,牧民们策马奔腾,手中的五星红旗迎风招展。近日,一段... -
相约冰雪,一起来丨能源行业低碳保供 ...
央视网消息:一直以来,北京2022年冬奥会和冬残奥会秉承“绿色办奥... -
相约冰雪,一起来丨“冷”运动“热”起...
央视网消息:让更多人参与到冰雪运动中来,这是奥林匹克运动的题中... -
相约冰雪,一起来|“萌小虎”,出山!
盼望着盼望着北京冬奥会的脚步越来越近小年一过农历虎年新春也即将... -
EDA概念行业股票有哪些?大众公用业绩如何?
周二盘后讯息提示,1月25日EDA概念报跌,概伦电子(30 3,-2 58,-... -
集中整治网络暴力等问题,严防“饭圈”...
今天,中央网信办发布通知,决定即日起开展为期1个月的“清朗·2022... -
刘嫔珺、孙旭东任杭州市副市长
1月25日上午,杭州市十三届人大常委会举行第四十一次会议。市人大常... -
全季养品牌体验店亮相杭城 引领朋克养...
1月20日,全季养品牌体验店于杭州市江干区天虹购物中心盛大开业,剑... -
数字化新场景新业态 全季养健康生活品...
1月20日,全季养品牌体验店于杭州市江干区天虹购物中心盛大开业,正... -
赴一场冰雪之约,燃一次激情之旅,2022...
国牌大企,助力冬奥2022年北京冬奥会是全球顶级赛事,更是世界瞩目... -
三诺数字入选2021年全国企业标准“领跑...
经济全球化背景下,得标准者得天下。企业标准高起来硬起来严起来,... -
“冰天雪地也是金山银山”云丘山滑雪场1...
1月20日,云丘山滑雪场正式开放!云丘山滑雪场与万达长白山国际度假... -
天奈转债1月27日申购 债券代码是什么?
打新债已经不是什么新鲜事了,不少投资者都非常关注一些新股的消息... -
国风设计有多好看?新捷途X70S来了!
2022年1月13日-19日,智取威虎山——2022捷途汽车林海雪原撒野大会... -
赴一场冰雪之约,燃一次激情之旅,2022...
国牌大企,助力冬奥2022年北京冬奥会是全球顶级赛事,更是世界瞩目... -
胡润-最具艺术气质单品榜,头排·苏酒上榜
1月20日,胡润百富在上海浦东香格里拉大酒店发布《胡润-最具艺术气... -
国风设计有多好看?新捷途X70S来了!
2022年1月13日-19日,智取威虎山——2022捷途汽车林海雪原撒野大会... -
用好货币政策支持稳增长
近日举行的金融统计数据新闻发布会提出,2022年将坚持稳字当头、稳... -
首战奥密克戎,天津靠什么
作者:新华每日电讯记者王明浩、王井怀、白佳丽、李鲲1月22日,天津... -
电商来到小山村之后……(新春走基层·...
上图:祥云湖边的神龙湾村。王超摄(人民视觉)数据来源:商务部、... -
三秦故事 | “疫”线的党员先锋队
“老伴腿肿了,药都吃完了,咋办呀?”1月2日,正在西安市高新区人... -
新华全媒+丨同心战“疫” 北京10区医护...
为有效阻断疫情传播,确保居民生命安全和身体健康,北京市丰台区连... -
新春走基层 | 寒冬深夜,“钢轨医生”...
科技日报记者李丽云通讯员耿聃陈名“探轮已下轮,数据传输正常,可... -
四川:20只新生大熊猫“拜年”贺新春迎冬奥
(新春见闻)四川:20只新生大熊猫“拜年”贺新春迎冬奥中新社四川卧... -
新华全媒+丨西安:恢复常态过小年 供应...
农历小年将至,24日陕西省西安市也传出“中高风险地区清零”的好消... -
绘画中的禹州抗疫
新华社客户端河南频道1月25日电(记者刘怀丕)1月2日,河南许昌禹州... -
探访为铁路道岔“洗澡”的“清洁工”
(新春走基层)探访为铁路道岔“洗澡”的“清洁工”中新网南宁1月24日... -
“每个生命都弥足珍贵,我们的努力多么...
今日上午,西安市疫情防控指挥部办公室发布通告称,根据当前疫情防... -
节前走市场 涉疫地区生活必需品供应有保障
此页面是否是列表页或首页?未找到合适正文内容。 -
两部门:调整农村客运、出租车油价补贴政策
近日,财政部、交通运输部印发关于调整农村客运、出租车油价补贴政... -
2022年春节档电影盘点 你想看哪部电影?
2022贺岁片有哪几部春节档电影有《狙击手》、《四海》、《超能一家... -
用好货币政策支持稳增长
近日举行的金融统计数据新闻发布会提出,2022年将坚持稳字当头、稳... -
送物资送技能 解难题保健康(送温暖 ...
开栏的话新春将至,年味渐浓,各地开展各类送温暖活动,为脱贫户、... -
“一个都不能少”(经济新方位·脱贫地...
“白日依山尽,黄河入海流……”听着女孩儿背诵唐诗,谈吉国频频点... -
运动忙:“小骏马”杯,我来了
【新春走基层·今年寒假孩子们这样过2】光明日报记者邓晖王建宏隆冬... -
引才育才聚起新动能——湖北宜昌巩固拓...
“彭书记,我的鱼塘丰收了!”近日,湖北宜昌当阳市王店镇跑马村二... -
创意微视频 | 雪龙吟
笑傲冰雪龙吟虎啸征战奥运夏去冬来2008年人们欢聚中国北京见证了一...