人工智能“脆弱面”暗藏安全风险
智能机器人自信地“走上”舞台担纲主持;无人车在测试道路上完成一系列动作,司机却稳坐千里之外;智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现,种种“黑科技”被广泛应用,人工智能的发展深刻地影响着社会生活。
但同时,随着人工智能技术应用越来越广泛,人工智能“脆弱面”也逐渐暴露,机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示,要加强对潜在风险的研判和防范,确保人工智能各项技术安全、可靠、可控。
催生新攻击方式
当今,世界各国纷纷布局人工智能,国际竞争日趋激烈。然而,人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化,进而引发更深层次的网络安全风险。
2018年4月,欧盟委员会计划2018年至2020年在人工智能领域投资240亿美元。2018年5月,法国发布《法国人工智能战略》,目的是使法国成为人工智能强国。2018年6月,日本《未来投资战略》重点推动物联网建设和人工智能的应用。
对于人工智能,我国同样高度重视。2017年,政府先后发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划(2018—2020年)》。
北京邮电大学教授李小勇表示,我国是受到网络攻击最严重的国家之一,也是遭受物联网攻击最严重的国家之一,网络攻击手段和攻击形式越来越多。从行业来看,经济、教育、政府等部门成为攻击的主要目标。
360公司董事长兼CEO周鸿祎说,网络攻击每天都在发生。目前网络黑客的攻击目标非常明确,就是能源、交通等基础设施,因为这样产生的影响是最大的。未来在万物互联的情况下,每个集装箱、每辆卡车,甚至城市里的每个井盖都实现互联,虚拟层面的攻击可能引发物理空间的损害。
事实上,劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示,许多无人值守系统运用人工智能技术,一旦遭网络劫持,将带来严重的安全问题。例如,智能汽车可与车厂服务器连接,通过手机远程控制,车主需要定期更新软件保证汽车的驾驶模式,如此一来就可能被网络劫持。
天津大学法学院院长孙佑海称,网络攻击者可通过漏洞控制人工智能算法,实现物理硬件操纵、实施舆论引导、制造虚假图像或影响、制造信息噪音等,造成安全隐患。
此外,图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称,随着技术的发展,现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗,虚构人脸和语音,是非常可怕的事情。
暴露安全软肋
由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散,其传播渠道广,监管难度大,封控几率低。
目前,人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进,能够依据其所掌握的算法、数据,在短时间内快速突破人类传承多年的经验积累。
2016年,由谷歌旗下“深度思维”(DeepMind)公司开发的AlphaGo横空出世,经深度学习后横扫人类围棋界翘楚。一年后,零基础起步的新程序AlphaGo Zero,通过自我训练,在三天内与自身对弈490万局后,以100:0的成绩击败“前辈”AlphaGo。
2017年,美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话,并不断进行对话策略迭代升级,逐渐发展出了一种机器之间能理解但人类无法理解的语言。
“事实表明,人工智能通过算法和大数据进行深度学习,不排除演化出‘自我意识’的可能,辅助甚至代替人类做出分析和决策,这易于发生反噬风险。”孙佑海说。
当前,人工智能研究高度开放附带源代码的海量论文可免费下载,即便编写一种折型算法的时间成本也只需几天,人工智能技术的滥用风险激增。此外,人工智能既有多学科综合、高度复杂等特性,带有天然的技术壁垒,给监管部门的监督管理和风险防范提出了不小的挑战。
除技术发展外,人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求,为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。
近年来,北京、上海、重庆、济南等地的商圈开始试水“智慧商圈”模式,可以根据顾客的特征更精准地推送优惠券商品信息,让用户更有消费动力。比如,给年轻的未婚白领女性推送化妆品和奢侈品的品牌商券;给妈妈们推荐婴儿用品店;给男性推送运动品牌门店活动,等等。
“智慧商圈”带来生活便捷却容易引发“信息骚扰”问题。消费者的一个简单操作就有可能暴露想要购买某件商品的想法,后续会不断收到同类商品的广告宣传,产生困扰。长此以往,商场导购等从事决策分析、艺术创作等工作也有被机器人取代的可能,人工智能技术的日臻成熟将打碎传统职业群体的“饭碗”,进而引发新产业革命和经济结构调整,形成“去劳动力”倾向,最终产生失业风险。
不仅如此,人工智能产生的道德伦理隐忧不断。有专家表示,人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中,并通过机器学习被人工智能所承继,进而演进为算法歧视。而在具体适用过程中,容易受到对抗样本的干扰或污染,被应用者二次形塑,做出背离设计初衷的错误决策。
2016年3月,美国微软公司发布了名为Tay的最新版本人工智能机器人。然而,上线不到24小时,Tay就“学坏”了:出言不逊、脏话不断,言语甚至涉及种族主义、色情、纳粹,充满歧视、仇恨和偏见。微软只得不停删除Tay的不当言论,进行下线调整。
用好“双刃剑”
专家表示,在人工智能飞速发展的时代,安全问题日益凸显,需要我们加强对潜在风险的研判和防范,切实维护好人民利益和国家安全,确保人工智能安全可靠、可控。
南开大学周恩来政府管理学院教授吴晓林认为,数字化、网络化、智能化已经是时代的主题,智能让生活变得更美好,但安全问题无处不在、无时不在。互联网下半场是工业互联网,以后国家的基础设施安全、工业互联网安全非常关键,还是要把人工智能的双刃剑用好,趋利避害,让科技的智能与人类的智慧并存、和谐。
在网络安全防护上,应加强技术研究,建立有效安全防护,抵御网络攻击。专家建议,可以建立主动免疫的计算架构,对计算进行安全防护,使计算全程可测可控,不被干扰。利用人工智能应对网络攻击,“免疫系统”中不管哪个系统受到攻击,都有统一的人工智能系统发出指令,采取相应措施。
在法治建设保障上,中国法学会副会长兼秘书长张鸣起建议高度重视立法工作,适时安排宏观立法,人工智能的发展离不开一部反映时代需求的《人工智能法》以及配套法规组成的法律法规体系。
孙佑海建议,全国人大宜进行立法上的一些准备,建议有关部门优先对无人机的管理、自动驾驶、图像识别相对成熟的技术应用制定法律规章,以刚性的法规条款引领秩序。
同时,要进一步健全精准务实的政策支撑体系,构建政策集群。孙佑海说,要进一步升级全流程的安全防控体系,并制定行业安全标准,做好应急防范的预案,加大重点领域的防控,加大对代码数据、算法等重点领域的综合管控力度,保障技术安全、产品安全、数据安全和应用安全。
针对新一代人工智能可能引发的结构性失业等风险,吴晓林建议,由劳动部门牵头加强与人工智能产业需求配套的在职培训和再就业培训体系,打好劳动力转型的主动仗。
标签:
相关阅读
-
电视机没有声音是什么情况?如何解决?
电视机没有声音,可能是因为音量没有打开,也可以能是因为电视的AV... -
如何设置路由器密码?路由器密码设置具...
新买的路由器,为防止其他人蹭网,第一件事肯定是要设置路由器密码... -
你对自己电脑信息了解吗?如何查看电脑...
不管是在工作还是在生活当中,我们都需要对使用电脑进行相关信息的... -
分辨率可以调节吗?笔记本屏幕分辨率是...
工具 材料笔记本电脑操作方法01笔记本的分辨率是由显卡决定的,所... -
没有路由器可以用wifi吗?没有路由器怎...
没有路由器可以用wifi。在有已经接入宽带的电脑设备的情况下,且电... -
更换手机成春节前常态 来看内行人的推...
眼看2022年春节脚步一步步临近,新年新气象,更换手机也成为春节前...
精彩放送
-
富银融资租赁与快易名商完成定向增发,...
富银融资租赁(深圳)股份有限公司(证券代码:08452,以下简称富银融... -
多地鼓励市民“非必要不离开” 就地过...
“就地”过春节,精彩不一样春节临近,疫情反复,各地疫情防控面临... -
各地各部门提供多样服务 慰问坚守岗位...
核心阅读为了保障春节假期城市运行平稳有序,许多人在自己的工作岗... -
冬奥会主题MV丨《最美中国画》
“喝中国茶,看中国画”,由时代少年团演唱的《最美中国画》MV今天... -
冬奥歌曲MV《美美与共》
此页面是否是列表页或首页?未找到合适正文内容。 -
寒假怎么管住“熊孩子”?要让娃远离这...
寒假期间,怎么管住“熊孩子”?如何关注“乖孩子”的心理健康?这... -
十二部门印发意见 鼓励民营企业招用自...
近日,退役军人事务部、中央统战部、教育部、科技部、工业和信息化... -
中央气象台发布暴雪黄色预警:湖北西南...
据中央气象台网站消息,中央气象台1月27日6时发布暴雪黄色预警:预... -
【光明漫评】致敬,万家团圆背后的坚守
“一年将尽夜,万里未归人。”春节将至,年味渐浓。此时节,春运浩... -
“不负韶华 国聘行动”已累计提供超40...
由中央广播电视总台携手多部委举办的国聘行动第三季“不负韶华国聘... -
“飞临”探秘冬奥场馆:振翅海拔两千米...
中国经济网北京1月26日讯(记者董家朋)国家高山滑雪中心位于北京延... -
中国冰雪运动“难出山海关”?那是过去!
你是否听说过中国冰雪运动“难出山海关”的说法?受制于自然因素等... -
少了冰雪,湖南长沙小学生这样迎冬奥
央广网长沙1月25日消息(记者唐丽丽)“双减”之后的首个寒假,湖南... -
相约冰雪,一起来丨五星耀冰雪·成绩从...
央视网消息:1979年10月25日,国际奥委会执行委员会在日本名古屋举... -
国台办发言人以普通话和闽南、客家方言...
“虎年临近,新春大吉。祝两岸乡亲大吉大利,阖家团圆,欢欢喜喜过... -
工信部:3至5年内逐步取消来电显示费用
近日,有网友在人民网“领导留言板”上问“来电显示费用何时能够取... -
中东部强降雪来袭 进入“五九”南方多...
预计今明两天(1月26日至27日),随着冷空气东移南下与暖湿气流交汇... -
公安部等11部门联合开展打击治理洗钱违...
据公安部网站26日消息,为依法打击治理洗钱违法犯罪活动,进一步健... -
《2022中华壬寅国宝币玺》首发暨收藏仪...
日前,由中国工美集团出品的《2022中华壬寅国宝币玺》首发仪式在京... -
激发乡村人才创新创业热情(新论)
随着乡村振兴的推进,劳动者通过诚实劳动、辛勤劳动、创新创业实现... -
【冬奥有我·我的冬奥日常②】漫画丨培...
【冬奥有我·我的冬奥日常】北京2022年冬奥会和冬残奥会已近在咫尺... -
冰雪之约|张家口赛区赛场准备就绪
央视网消息:张家口赛区是北京冬奥会雪上项目的主要举办地。目前这... -
冬奥会主媒体中心处处洋溢中国风
【北京冬奥我们来了】光明日报北京1月25日电(记者王东、黄小异)十... -
励普教育:2021年注册安全工程师纸质证...
近日,中国人事考试网更新了注册安全工程师的办理进度,1月18日下达... -
127053豪美转债中签号共166555个 上市时间一览
打新债风险低,并且中签的话是能够获取收益的。一般新债在申购之后... -
池州市加强房地产领域信用管理体系建设...
近年来,我市不断加强房地产领域信用管理体系建设,整顿和规范房地... -
河南鹤壁推动外贸逆势增长 2021年货物...
疫情给我们的外贸业务带来了一定的冲击,但在鹤壁市商务局的指导支... -
中国奢侈品消费潜力不断释放 有望成全...
中国仍在上演世界上最好的消费故事,由于出境游受限,大部分中国消... -
满足你的春节高质量出行,捷途X90子龙别...
爆竹声声辞旧岁,锣鼓声声迎新年。新年对于国人来讲向来有着辞旧迎... -
春节旅游大市场冷冬有热度 自驾游成主...
虎年春节即将来临,在疫情常态化防控背景下,春节旅游消费依然呈现... -
春节临近生肖经济如“虎”添翼 虎年金...
生肖酒水、生肖服装、生肖首饰……生肖属相是中国人与生俱来的标记... -
淮海经济区首个保税维修业务!进境维修...
去年年底,一批进境维修设备在完成海关申报后顺利进入徐州综保区并... -
10口岸启动跨境贸易便利化专项行动 打...
2022年促进跨境贸易便利化专项行动日前启动。北京、天津、上海、重... -
靠前发力!到2025年我国出入境旅游有序推进
在全球旅游业发展不确定性明显增加的背景下,十四五时期,我国旅游... -
炫朗带来全新漱口体验,呵护牙齿更能补...
当代年轻人的社交新宠是啥——当仁不让非漱口水莫属啦!漱口水作为口... -
用户要的强动力和低油耗看这里,揭晓捷...
在老观念里,我们一直把三大件视为自主品牌的软肋。但士别三日,当... -
FLCEAsia2022亚洲食材展 聚焦预制菜展
广东省农业农村厅日前召开了预制菜双节营销工作会议,决定办好双节... -
挪亚检测认证验厂优势是什么?
验厂从流程上理解,就是将国际验厂标准实行到国内。获得挪亚检测认... -
新春走基层 |“中国沙乡”:乡村振兴“...
位于甘肃省河西走廊东北部的民勤县,东西北三面被巴丹吉林和腾格里... -
山西介休 新春走基层 南桥头村:重建...
此页面是否是列表页或首页?未找到合适正文内容。 -
退伍不褪色,春运保安全
【春运进行时】光明日报记者马荣瑞光明日报通讯员刘振华“当、当、... -
新春走基层·邮包里的惦念 欧阳老师牵...
此页面是否是列表页或首页?未找到合适正文内容。 -
西安:恢复常态过小年 供应充足备货忙
西安:恢复常态过小年供应充足备货忙01:541月24日,西安市城隍庙内... -
秦岭慢火车上的幸福年
央广网西安1月25日消息(记者刘涛通讯员杜得粉李改群)1月25日是农... -
全棉时代保暖360系列丨亲肤柔软,全棉更暖
随着经济水平不断提高,人们的消费观念持续升级,越来越多人青睐舒适... -
首届全球数字贸易博览会合作伙伴征集公告
首届全球数字贸易博览会(以下简称:数贸会)于2022年3月24-27日在... -
崔传桢撰文:从李白《嘲王历阳不肯饮酒...
一个强大的国家必然有自己高度自信的文化。文化自信是一个民族、国... -
第一百货花样大拜年
新春佳节至,年味渐浓,上海第一百货商业中心陆续迎来消费小高峰。... -
当之无愧的爆款!全新第二代GS8满足你的...
越来越多二胎、三胎家庭对于SUV后座乘坐舒适度的要求提高,乘坐舒适... -
施工影像资料管理应该用什么工具软件方...
在建筑工程施工中,施工资料真实记录的施工过程,所以施工资料在工... -
白象食品:向下扎根25年,是为了获得向...
中华上下五千年,源远流长。经历了无数风雨和战火的中国,开始走向... -
各地节前走访慰问城市困难群众,确保帮...
各地节前走访慰问城市困难群众,确保帮扶精准到位——送年货送陪伴... -
银保监会:去年全年共处置银行业不良资...
中新社北京1月25日电(记者王恩博)中国银保监会25日发布消息称,2022... -
中央气象台发布暴雪蓝色预警:陕西湖北...
据中央气象台网站消息,中央气象台1月26日6时发布暴雪蓝色预警:预... -
应急管理部指导协助地方做好低温雨雪防...
中新网1月25日电据应急管理部网站消息,1月25日,应急管理部向江苏... -
国家卫健委:昨日新增本土确诊24例、本...
央视网消息:据国家卫健委网站消息,1月25日0—24时,31个省(自治... -
消费电子龙头上市公司有哪些?和胜股份...
消费电子龙头上市公司有哪些?和胜股份002824:近7日和胜股份股价下... -
碳纳米管概念龙头股有哪些?天奈科技业...
周二盘后要闻,碳纳米管概念报跌,长江健康(4 55,-6 38%)领跌,... -
新潮流紧凑型MPV,传祺M6 PRO超级0首付...
国家开放二胎以及紧随其后推出的三胎政策,无疑给MPV市场打了一剂振... -
表面处理概念上市公司有哪些?三美股份...
1月25日盘后,表面处理概念报跌,豪美新材(16 74,-10%)领跌,金固... -
2022年锂电池电解液概念股票有哪些?新...
1月25日盘后消息,锂电池电解液概念报跌,永太科技领跌,长园集团、... -
10天倒计时 从时间轴纵观冬奥七年筹办路
【北京冬奥会】10天倒计时从时间轴纵观冬奥七年筹办路【解说】1月25... -
人民体谈:线上火炬护跑留言情暖冬奥
冬奥在即,中国民众对于冬奥会的热情日益高涨。1月23日,由北京冬奥... -
人民体谈:牧民策马送健儿,全民共享的...
茫茫雪原上,牧民们策马奔腾,手中的五星红旗迎风招展。近日,一段... -
相约冰雪,一起来丨能源行业低碳保供 ...
央视网消息:一直以来,北京2022年冬奥会和冬残奥会秉承“绿色办奥... -
相约冰雪,一起来丨“冷”运动“热”起...
央视网消息:让更多人参与到冰雪运动中来,这是奥林匹克运动的题中... -
相约冰雪,一起来|“萌小虎”,出山!
盼望着盼望着北京冬奥会的脚步越来越近小年一过农历虎年新春也即将... -
EDA概念行业股票有哪些?大众公用业绩如何?
周二盘后讯息提示,1月25日EDA概念报跌,概伦电子(30 3,-2 58,-... -
集中整治网络暴力等问题,严防“饭圈”...
今天,中央网信办发布通知,决定即日起开展为期1个月的“清朗·2022... -
刘嫔珺、孙旭东任杭州市副市长
1月25日上午,杭州市十三届人大常委会举行第四十一次会议。市人大常... -
全季养品牌体验店亮相杭城 引领朋克养...
1月20日,全季养品牌体验店于杭州市江干区天虹购物中心盛大开业,剑... -
数字化新场景新业态 全季养健康生活品...
1月20日,全季养品牌体验店于杭州市江干区天虹购物中心盛大开业,正... -
赴一场冰雪之约,燃一次激情之旅,2022...
国牌大企,助力冬奥2022年北京冬奥会是全球顶级赛事,更是世界瞩目... -
三诺数字入选2021年全国企业标准“领跑...
经济全球化背景下,得标准者得天下。企业标准高起来硬起来严起来,... -
“冰天雪地也是金山银山”云丘山滑雪场1...
1月20日,云丘山滑雪场正式开放!云丘山滑雪场与万达长白山国际度假... -
天奈转债1月27日申购 债券代码是什么?
打新债已经不是什么新鲜事了,不少投资者都非常关注一些新股的消息... -
国风设计有多好看?新捷途X70S来了!
2022年1月13日-19日,智取威虎山——2022捷途汽车林海雪原撒野大会... -
赴一场冰雪之约,燃一次激情之旅,2022...
国牌大企,助力冬奥2022年北京冬奥会是全球顶级赛事,更是世界瞩目... -
胡润-最具艺术气质单品榜,头排·苏酒上榜
1月20日,胡润百富在上海浦东香格里拉大酒店发布《胡润-最具艺术气... -
国风设计有多好看?新捷途X70S来了!
2022年1月13日-19日,智取威虎山——2022捷途汽车林海雪原撒野大会... -
用好货币政策支持稳增长
近日举行的金融统计数据新闻发布会提出,2022年将坚持稳字当头、稳... -
首战奥密克戎,天津靠什么
作者:新华每日电讯记者王明浩、王井怀、白佳丽、李鲲1月22日,天津... -
电商来到小山村之后……(新春走基层·...
上图:祥云湖边的神龙湾村。王超摄(人民视觉)数据来源:商务部、... -
三秦故事 | “疫”线的党员先锋队
“老伴腿肿了,药都吃完了,咋办呀?”1月2日,正在西安市高新区人... -
新华全媒+丨同心战“疫” 北京10区医护...
为有效阻断疫情传播,确保居民生命安全和身体健康,北京市丰台区连... -
新春走基层 | 寒冬深夜,“钢轨医生”...
科技日报记者李丽云通讯员耿聃陈名“探轮已下轮,数据传输正常,可... -
四川:20只新生大熊猫“拜年”贺新春迎冬奥
(新春见闻)四川:20只新生大熊猫“拜年”贺新春迎冬奥中新社四川卧... -
新华全媒+丨西安:恢复常态过小年 供应...
农历小年将至,24日陕西省西安市也传出“中高风险地区清零”的好消... -
绘画中的禹州抗疫
新华社客户端河南频道1月25日电(记者刘怀丕)1月2日,河南许昌禹州... -
探访为铁路道岔“洗澡”的“清洁工”
(新春走基层)探访为铁路道岔“洗澡”的“清洁工”中新网南宁1月24日... -
“每个生命都弥足珍贵,我们的努力多么...
今日上午,西安市疫情防控指挥部办公室发布通告称,根据当前疫情防... -
节前走市场 涉疫地区生活必需品供应有保障
此页面是否是列表页或首页?未找到合适正文内容。 -
两部门:调整农村客运、出租车油价补贴政策
近日,财政部、交通运输部印发关于调整农村客运、出租车油价补贴政... -
2022年春节档电影盘点 你想看哪部电影?
2022贺岁片有哪几部春节档电影有《狙击手》、《四海》、《超能一家... -
用好货币政策支持稳增长
近日举行的金融统计数据新闻发布会提出,2022年将坚持稳字当头、稳... -
送物资送技能 解难题保健康(送温暖 ...
开栏的话新春将至,年味渐浓,各地开展各类送温暖活动,为脱贫户、... -
“一个都不能少”(经济新方位·脱贫地...
“白日依山尽,黄河入海流……”听着女孩儿背诵唐诗,谈吉国频频点... -
运动忙:“小骏马”杯,我来了
【新春走基层·今年寒假孩子们这样过2】光明日报记者邓晖王建宏隆冬... -
引才育才聚起新动能——湖北宜昌巩固拓...
“彭书记,我的鱼塘丰收了!”近日,湖北宜昌当阳市王店镇跑马村二... -
创意微视频 | 雪龙吟
笑傲冰雪龙吟虎啸征战奥运夏去冬来2008年人们欢聚中国北京见证了一...