您的位置:首页 >资讯 > IT >

人工智能“脆弱面”暗藏安全风险

2019-07-10 17:43:15    来源:经济参考报

 智能机器人自信地“走上”舞台担纲主持;无人车在测试道路上完成一系列动作,司机却稳坐千里之外;智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现,种种“黑科技”被广泛应用,人工智能的发展深刻地影响着社会生活。

  但同时,随着人工智能技术应用越来越广泛,人工智能“脆弱面”也逐渐暴露,机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示,要加强对潜在风险的研判和防范,确保人工智能各项技术安全、可靠、可控。

  催生新攻击方式

  当今,世界各国纷纷布局人工智能,国际竞争日趋激烈。然而,人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化,进而引发更深层次的网络安全风险。

  2018年4月,欧盟委员会计划2018年至2020年在人工智能领域投资240亿美元。2018年5月,法国发布《法国人工智能战略》,目的是使法国成为人工智能强国。2018年6月,日本《未来投资战略》重点推动物联网建设和人工智能的应用。

  对于人工智能,我国同样高度重视。2017年,政府先后发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划(2018—2020年)》。

  北京邮电大学教授李小勇表示,我国是受到网络攻击最严重的国家之一,也是遭受物联网攻击最严重的国家之一,网络攻击手段和攻击形式越来越多。从行业来看,经济、教育、政府等部门成为攻击的主要目标。

  360公司董事长兼CEO周鸿祎说,网络攻击每天都在发生。目前网络黑客的攻击目标非常明确,就是能源、交通等基础设施,因为这样产生的影响是最大的。未来在万物互联的情况下,每个集装箱、每辆卡车,甚至城市里的每个井盖都实现互联,虚拟层面的攻击可能引发物理空间的损害。

  事实上,劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示,许多无人值守系统运用人工智能技术,一旦遭网络劫持,将带来严重的安全问题。例如,智能汽车可与车厂服务器连接,通过手机远程控制,车主需要定期更新软件保证汽车的驾驶模式,如此一来就可能被网络劫持。

  天津大学法学院院长孙佑海称,网络攻击者可通过漏洞控制人工智能算法,实现物理硬件操纵、实施舆论引导、制造虚假图像或影响、制造信息噪音等,造成安全隐患。

  此外,图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称,随着技术的发展,现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗,虚构人脸和语音,是非常可怕的事情。

  暴露安全软肋

  由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散,其传播渠道广,监管难度大,封控几率低。

  目前,人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进,能够依据其所掌握的算法、数据,在短时间内快速突破人类传承多年的经验积累。

  2016年,由谷歌旗下“深度思维”(DeepMind)公司开发的AlphaGo横空出世,经深度学习后横扫人类围棋界翘楚。一年后,零基础起步的新程序AlphaGo Zero,通过自我训练,在三天内与自身对弈490万局后,以100:0的成绩击败“前辈”AlphaGo。

  2017年,美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话,并不断进行对话策略迭代升级,逐渐发展出了一种机器之间能理解但人类无法理解的语言。

  “事实表明,人工智能通过算法和大数据进行深度学习,不排除演化出‘自我意识’的可能,辅助甚至代替人类做出分析和决策,这易于发生反噬风险。”孙佑海说。

  当前,人工智能研究高度开放附带源代码的海量论文可免费下载,即便编写一种折型算法的时间成本也只需几天,人工智能技术的滥用风险激增。此外,人工智能既有多学科综合、高度复杂等特性,带有天然的技术壁垒,给监管部门的监督管理和风险防范提出了不小的挑战。

  除技术发展外,人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求,为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。

  近年来,北京、上海、重庆、济南等地的商圈开始试水“智慧商圈”模式,可以根据顾客的特征更精准地推送优惠券商品信息,让用户更有消费动力。比如,给年轻的未婚白领女性推送化妆品和奢侈品的品牌商券;给妈妈们推荐婴儿用品店;给男性推送运动品牌门店活动,等等。

  “智慧商圈”带来生活便捷却容易引发“信息骚扰”问题。消费者的一个简单操作就有可能暴露想要购买某件商品的想法,后续会不断收到同类商品的广告宣传,产生困扰。长此以往,商场导购等从事决策分析、艺术创作等工作也有被机器人取代的可能,人工智能技术的日臻成熟将打碎传统职业群体的“饭碗”,进而引发新产业革命和经济结构调整,形成“去劳动力”倾向,最终产生失业风险。

  不仅如此,人工智能产生的道德伦理隐忧不断。有专家表示,人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中,并通过机器学习被人工智能所承继,进而演进为算法歧视。而在具体适用过程中,容易受到对抗样本的干扰或污染,被应用者二次形塑,做出背离设计初衷的错误决策。

  2016年3月,美国微软公司发布了名为Tay的最新版本人工智能机器人。然而,上线不到24小时,Tay就“学坏”了:出言不逊、脏话不断,言语甚至涉及种族主义、色情、纳粹,充满歧视、仇恨和偏见。微软只得不停删除Tay的不当言论,进行下线调整。

  用好“双刃剑”

  专家表示,在人工智能飞速发展的时代,安全问题日益凸显,需要我们加强对潜在风险的研判和防范,切实维护好人民利益和国家安全,确保人工智能安全可靠、可控。

  南开大学周恩来政府管理学院教授吴晓林认为,数字化、网络化、智能化已经是时代的主题,智能让生活变得更美好,但安全问题无处不在、无时不在。互联网下半场是工业互联网,以后国家的基础设施安全、工业互联网安全非常关键,还是要把人工智能的双刃剑用好,趋利避害,让科技的智能与人类的智慧并存、和谐。

  在网络安全防护上,应加强技术研究,建立有效安全防护,抵御网络攻击。专家建议,可以建立主动免疫的计算架构,对计算进行安全防护,使计算全程可测可控,不被干扰。利用人工智能应对网络攻击,“免疫系统”中不管哪个系统受到攻击,都有统一的人工智能系统发出指令,采取相应措施。

  在法治建设保障上,中国法学会副会长兼秘书长张鸣起建议高度重视立法工作,适时安排宏观立法,人工智能的发展离不开一部反映时代需求的《人工智能法》以及配套法规组成的法律法规体系。

  孙佑海建议,全国人大宜进行立法上的一些准备,建议有关部门优先对无人机的管理、自动驾驶、图像识别相对成熟的技术应用制定法律规章,以刚性的法规条款引领秩序。

  同时,要进一步健全精准务实的政策支撑体系,构建政策集群。孙佑海说,要进一步升级全流程的安全防控体系,并制定行业安全标准,做好应急防范的预案,加大重点领域的防控,加大对代码数据、算法等重点领域的综合管控力度,保障技术安全、产品安全、数据安全和应用安全。

  针对新一代人工智能可能引发的结构性失业等风险,吴晓林建议,由劳动部门牵头加强与人工智能产业需求配套的在职培训和再就业培训体系,打好劳动力转型的主动仗。

 

标签:

相关阅读

精彩放送

安装监控摄像头的步骤是什么?配套零件有哪些?

美的空调保修几年?美的空调节能效果如何?

电吹风的功率一般是多大?选购吹风机注意事项

两千价位有什么值得入手的手机?手机有什么作用?

电脑买什么牌子的好?笔记本电脑品牌有哪些?

加湿器用什么水?室内放加湿器有什么坏处?

开空调要关闭门窗吗?使用空调的注意事项

iPhone SE3或将试产 内存容量或增至4GB

全域低风险!古城西安“活力”回归迎新春

新春走基层|4个象群32头野象现身野象谷

广东去年进出口首超8万亿元 十大贸易工程增强发展韧性

多措并举提升城乡居民收入

洞悉宇宙的“中国天眼”——五百米口径球面射电望远镜

中国东航实业心系一线员工送关爱 点滴真情暖人心

冷链防疫为何屡屡暴雷 构建智慧冷链系统势在必行

健康义诊,防控三高,金水宝制药x漱玉平民大药房新春公益活动惠及百姓

百利好2022年 恭贺新春 福虎献瑞

护航大国制造,PPE破浪前行——第104届中国劳保会4月登陆上海

春节送礼白酒清单,九暹酒你不该错过

再度横扫娱乐圈!比音勒芬俘获吴奇隆等男神,延续“王子的选择”

这个春节,跟着男神吴尊学穿搭,把比音勒芬国潮“福”运穿上身!

加盟大平台,继往又开来!怡亚通全球招募合伙人共同做大做强

同心同行,共商共赢!智联会&玉龙祥股东会暨年会圆满成功

VR数字科技 推动驾培行业转型创新

宁夏将深入推进土地权改革 综合施策破除制度瓶颈

第一产粮大省黑龙江今年将新建高标准农田1100万亩

8年开出4000多家门店,俏妃经期护理缘何成为女性刚需

重视心理健康教育 让更多学生感受到积极的能量

全国猪肉供应形势怎样?猪价向上拐点是否已经来临?

取消护工降低护理费引关注 反映老百姓的迫切需求

“不买年”成新年关键词:挑战自己不买不需要的东西

让农民工安“薪”返乡 根治欠薪冬季专项行动观察

遏制过度营销、野蛮生长 给盲盒市场划一条法律红线

30省份公布2022年GDP目标 谁最雄心勃勃?

中东部地区有大范围雨雪天气 陕西山西等地有大雾

跨越时空,世界青年新春同框打卡 “佳节好物·一起过节”活动在京举行

促进算法推荐技术规范健康发展

香港故事丨香港凤园:300多年保护生态的传承

我在新疆迎冬奥:来布尔津邂逅冰雪乐趣

我在新疆迎冬奥:库马什·库力斯坦的体育之家

MAKUKU麦酷酷宣布完成新一轮战略融资,融资金额或高达3000万美金

【地评线】太阳鸟时评:警惕年轻干部成长“黄金期”异化为贪腐“危险期”

艺韵丝语——张宝华教授丝巾艺术展暨新年文创分享会圆满落幕

冬奥来了丨牧民“策马踏雪” 送国家越野滑雪队出征!

相约冰雪,一起来|少年不老·野冰

一起出发!“我是火炬网络护跑手”主题网络宣传活动启动

A股旅游业龙头股上市公司一览 中国中免业绩如何?

化学制药概念股龙头有哪些?恒瑞医药业绩如何?

2022年硫酸股票的龙头股有哪些?丽珠集团相关介绍

东易日盛受邀参观冬奥赛区,助力冬奥会保障!

九牛一毛打一生肖谜底是什么?快来看看吧!

豪美转债今日申购 预计一手可盈利200元

打新股中签怎么样?亚信安全发行市盈率87.17倍

东微半导新股申购 发行总数1684.41万股

预眸——仿生疗愈护肤行业引领品牌,专为亚洲女性量身定制

星星冷柜“新鲜守味”,全年不打烊

华润万象生活拟收购两物管企业 交易总对价不超33.2亿

通美晶体超四成收入来自AXT 扭亏为盈经营现金流反降43%

都是“名场面”! 手绘漫画带你回顾天津抗疫瞬间

隔离酒店的儿童画,藏着这样的暖心故事!

海军打一字谜底是什么?滨字组词有哪些?

日照航海技术学校2022年招收初中毕业生火热报名中!

跌停开盘!九安医疗回应收购微软:没有任何可能

本周连上七天班 春节加班工资这样算

润邦股份最高预盈3.4亿 广州国资入主在即

上市险企2021年实现保费收入2.49万亿 整体增长放缓

爱建集团拟1.28亿元投资华贵人寿 将成第四大股东

【新春走基层】守护旅客安全回家路

夜间出击淬铁翼

关口前移防控金融风险

【读懂开局之年成绩单】持续激发市场主体活力

帮村里建产业 助学子稳就业

排隐患 建规范 强监管(关注农村自建房)

峡谷清幽 山乡秀美(寻找最美乡村·岩铺村)

跃上冰雪,拥抱快乐寒假

投身志愿,服务燃情冬奥

辟谣!网传“益和香猪肉牵出清立源益生菌,中益智信六级代理团队计酬涉嫌违法违规 ”一...

林海雪原撒野之旅——智取威虎山试驾捷途汽车

《金工錾刻技法》新书发布会在京举行

2022开年城市一线观察 | “巴适”之地寻变记——“活力之城”成都2022开年观察

万物皆可OATLY,燕麦奶开启中式烘焙与植物奶品类结合

春运返程火车票开售 网上退票24小时办理

江苏平安消防集团有限公司荣获2020年度“纳税信用A级纳税人”称号

奶粉竞争新格局:喜唯特正式入局儿童奶粉赛道

空间站生活忙碌又精彩 神舟十三航天员太空旅程过半

全国首次中成药集中带量采购开标 药价瘦身百姓减负

30省份今启动教师资格考试报名 这些变化要注意

28省份GDP出炉!广东闯入“世界前十”,多地破重要关口

七部门:2025年我国绿色低碳循环发展消费体系初步形成

三同源如一幸福智道:2021年12月25日亮相央视少儿春晚舞台

新春走基层·巡江记 | 这152公里的长江岸线藏着怎样的生态密码?

看哭!烈士妻子从结婚9个月分离等到94岁,阔别70多年“再相见”

就在明天!

音乐先锋 湾区放歌:国内首发音乐数字藏品--元音链

预防大于治疗,俏妃经期护理唤活女性生殖健康自生力

俏妃经期护理凭何为女性健康筑起防火墙

关切民生,助力环保 | 广东省政协委员贺惠山为广东发展建言献策

冰雪之约丨在这座南方城市里,有一个“冰球联合国”

【深度解读】如何借年货节打造超级爆品?抖音超品日破局有招

小红书回应被行政处罚30万 系未成年信息审核漏放问题

北京冬奥会开幕式举行第二次带妆彩排

59个世界冠军!杨扬的“A级人生”一路向前

王老吉与携程共祝出行大吉,吉祥伴你一路同行

买菜干净又舒心

西安:春节期间蔬菜供应充足 每日可上市2000余吨

新春走基层|这对“95后”姐妹花 是襄渝铁路上的电力“蜘蛛侠”

河南安阳:雪天防疫忙 配送不停歇

流调员的一封信让网友“破防”:请允许我用“战友”相称