您的位置:首页 >资讯 > 科技 >

防范人工智能风险要有安全阀

2024-08-15 11:59:34    来源:经济日报

党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》强调,建立人工智能安全监管制度。作为一种战略性新兴技术,人工智能已深度融入人们的生产生活,对于工作效率的提升大有裨益,还不断催生出新产业、新业态、新商业模式,持续为经济社会发展注入新动能。作为人工智能的一个重要组成部分,生成式人工智能技术的飞速发展,涵盖虚拟现实、医疗保健、创意产业等多个领域,为各行各业带来更多创新与价值。不过,当前也要密切注意生成式人工智能可能引发的数据安全、信息误导等风险挑战,坚持发展与安全并重。

所谓生成式人工智能技术(AIGC),是指基于算法、模型、规则等,生成文本、声音、图片、视频等内容的新一代人工智能技术。算力、算法、数据是这种技术发展的三大核心要素,这几个要素的综合作用,使得其具备自生成模式,能实现闭环式学习体系的构建,通过利用海量数据信息,自主学习要素,进而生成原创性的专业知识内容或产品并可以不断更新,进行自我升级迭代。基于这些特点,越来越多的行业正将其作为提高生产力水平的新要素,创造出指数级的价值,并催生了大量的产业应用,教育、娱乐、商业等领域均有所及。2022年末,美国OpenAI公司推出的ChatGPT标志着这一技术在文本生成领域取得显著进展。世界知识产权组织(WIPO)不久前发布的《生成式人工智能专利态势报告》显示,2014年到2023年,中国生成式人工智能专利申请量超3.8万件,居世界第一位,是第二名美国的6倍。

生成式人工智能是把双刃剑,在加强技术研发和创新的同时,需努力提高其安全性和可控性,有效识别潜在风险和漏洞并形成应对策略。2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》指出,有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。因此,未来要进一步推动生成式人工智能的发展,应从网络安全、数据安全、个人信息保护等层面入手,采取包容审慎的态度,从技术、伦理、法律等多方面设置“安全阀门”,防范生成式人工智能风险。

一方面,完善相关法律法规的有效界定,合理有效监管。加快立法进程,针对数据、内容安全、知识产权等生成式人工智能发展的关键问题,进行分类管理、分类立法,通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。明确监管底线,制定相应技术使用规则和行业规范,强化对生成式人工智能企业、平台和使用该技术高校各主体等失范行为的监管,及时发现处理违规行为。将“传统事后监管模式”转为“事前预防评估模式”和“事中控制模式”,制定事前评估、风险预警和事中控制规范,有效减少安全事件的发生、降低安全事件对企业、高校等造成的负面影响。加快制定相应的技术使用规则和应急处理措施,强化对应用生成式人工智能的企业、平台的监管和约束。

另一方面,持续增强数据安全。建立数据全生命周期监督管理,包括数据采集输入阶段的虚假、错误信息入库管控,数据处理加工阶段的数据标注管控监督,数据输出阶段(二次采集输入阶段)的数据真实性检测验真等。针对医疗、金融、电商、高校等重点领域,通过技术手段保障数据安全。及时发现和处理数据方面的违规行为,保障数据及隐私安全,防止滥用数据造成的损失,确保其符合法律法规和社会公德。(谭泽宇)

标签:

相关阅读

精彩放送

自己干洗羊毛大衣 自己干洗羊毛大衣的方法

祭祀用品店铺起名(祭祀用品)

快啤酒

从设计到研发迈向国产化!“卡脖子”难题被他们一一破解!

《国王的恩赐2》现已登陆PS5和Xbox Series主机

月内623家公司获机构调研 机械设备、电子等四行业最受青睐

宁德时代:向2023年限制性股票激励计划激励对象授予预留部分限制性股票

证监会:要坚定对防范化解房地产风险的信心 坚定对防范化解地方债务风险的信心

爱奇艺携手“澳门银河”推出《苍兰诀》VR全感剧场 共建大湾区数字文旅新高地

福建省建设投资集团有限责任公司正式组建成立 林增忠任董事长

1-7月广东外贸进出口5.17万亿元 同比增长13.9%

浙江省文物保护利用协会文物数智化与博物馆发展专委会成立

黑龙江:女儿考上理想大学 邮递员爸爸亲手送上录取通知书

长影乐团与香港歌剧院联袂奏响《狮子山下》

“何以中国·寻根辽宁”网络主题宣传活动走进朝阳

多省调整应届生身份的认定标准

恒大地产新增12条被执行人信息,执行标的合计14.6亿元

“鄂豫争地”案当事人背刑案嫌疑人身份10年,检方决定不起诉

比亚迪郑州基地再现大规模招聘,单月规模4000人,这些岗位月收入超万元!

迪奥、蔻驰纷纷卖咖啡 是噱头还是风口?

面临转型阵痛 外资化妆品企业“中国战略”欲更新

雅戈尔急于寻增

“纺乡染娘”花费上百万,让草木染被世界看见

都是为国家打工的运动员,谁的待遇领跑了?

女生显老又土气的5款发型,真的别再留了

夏末秋初,与赫本小白裙更配!

棒球帽+小包包+长裙子,松弛氛围感太绝了!超适合夏末秋初~

女人到了60岁穿衣要摆脱年龄感,试试这些夏季穿搭,减龄又舒适

40岁的女性试试素雅风格,展现成熟姐姐的别样之美,太耐看了

城市更新“再度刷新” 新型城镇化提升质量

1000亿件快递背后的经济发展活力和韧性

多元运动场景创新 推动暑期消费热度攀升

长江水生生物资源总体恢复向好

让更多“硬核”技术项目落地生根

水利部举行防汛周会商 安排部署重点防御工作

多措并举持续培育新动能新优势

我国综合立体交通网建设步伐加快

7月快递发展指数提升11.8%

借助数字化“翅膀” 业界探索文化产业发展新路径

支持政策落地显效 汽车消费市场活力持续迸发

全面绿色转型目标明确 新型电力体系建设步入快车道

火星地表下或有大量液态水

我国自研汽车复合屏实现产业化

新方法提高光谱测量长期稳定性

健全投资和融资相协调的资本市场功能

水利部:黄河实现连续25年不断流

“避暑游”“研学游”热度攀升 夏日经济展现新活力

来这里,带你探秘“梦幻灵境”

水利部:多条河流可能发生洪水过程 局地山洪灾害风险较高

中垦上海公司彰显保供实力,携手学大教育,行业保供再树标杆

美在巴黎,巅峰新生!自然堂见证中国跳水队奥运包揽8金历史性时刻

聚焦宝宝肚肚:科学选奶,胃肠道适应性不容忽视

雇主责任险的覆盖范围

第三届广西退役军人创业创新大赛第四届广西退役军人创业创新成果交流暨“投资广西”招商...

签约17亿!“投资广西”招商推介会取得成功

“走进夏尔西里无人区”——中国科学探险协会新疆阿拉套山综合科学考察野外工作圆满完成

媒体记者的得力助手:讯飞听见实时语音转文字功能

水上项目热度正高 潜羽美人鱼举办中国美人鱼泳池超级联赛

章若楠线下活动美貌引爆全场,润致娃娃针带你来解析她的美貌

补报名截止倒计时! 2024年税务师考试8月16日截止补报名

2024年“中学生英才计划”浙南区域暑期夏令营圆满落幕

“羽”会天下客 龙聚古盐都 ——2024赛季“双羽天下”羽毛球巡回赛(自贡站)火热开赛

2024中国-托克托“力争上游”休闲垂钓大赛隆重开幕

2024哈尔滨轮滑马拉松世界杯举行

集度极越又开播,联合技术同源的“萝卜快跑”,展现第一阵营自动驾驶能力

“穿越时空的诗意对话”文化名家探访天柱山活动举办

龙卡信用卡,龘龘新宇宙,建设银行龙卡信用卡与你相约2024ChinaJoy

台铃3800公里骑行挑战成功,收官仪式暨新品发布会即将举办

什么是三维重建?

BVLGARI宝格丽任命设计师Mary Katrantzou为品牌首位皮具与配饰创意总监

早鸟“惠”享 | 乘邮轮畅玩日本、越南!南沙迎来爱达·地中海号

武汉游客有福啦!东风风神L7邀您免费试驾3天,全国可预约

1金1钻!黄雅琼奥运夺冠,DR钻戒见证求婚现场!

更适合中学生的电话手表!小天才旗舰Z10少年版上市

【赓续血脉】六十六载荣耀征途,共铸解化璀璨未来

多彩yeah生活·龙江游乐购 ——黑龙江省消夏不夜生活月闪耀启幕

“新疆品质”区域公共品牌·美好生活的自然优选·丝绸之路的灯塔

上海地铁携手丰巢,打造行李寄存的智能时代

主汛期抢救7000+件松茸,顺丰迎战暴雨侵袭,保障四川松茸出深山

丰沃河套:立足特色资源,用科技与文化绘就振兴蓝图

“探秘丝绸南道 穿越锦绣都兰”越野汽车穿越活动在都兰县举行

同疆共创组织在疆员工学习三中全会及其对于公司发展的深远意义

南有影视城,北有艺术城 云堡未来市艺术城在上海松江正式启动!

“走进夏尔西里无人区”——新疆阿拉套山综合科学考察队在乌鲁木齐壮行出发

杭州的炖物24章推出“西湖醋鱼茶”,火到门店卖断货

新生上场,美在巴黎丨自然堂现场见证中国跳水队首金荣耀!

政企合作推动智慧农业发展,中垦上海与阳澄湖携手助力乡村振兴

一键畅游世界,讯飞同传打破语言障碍实现无缝交流

防水涂料十大品牌选老顽固还是德高?泥瓦工给你答案!

夺金摘银,闪耀国际!美诚月饼坚守品质,再夺国际蒙特奖

巴黎奥运中国队首日夺金!8月11日郎朗吉娜在Cleer抖音直播间送“金牌”

柯南精神伴成长,小天才Z10柯南定制款伴孩子勇敢前行

ChinaJoy 2024开幕,一加携年度性能巅峰大作引爆玩家关注

小花钱包:开启智能借贷新时代,重塑金融服务体验

张山人与五妙水仙膏

TOP1车手周贺代表中国车手出战2024丝绸之路拉力赛

李道以实际行动展大爱,凝聚力量赋能教育公益

数字赋能,平安浙江!CIPSE 2024杭州安博会今日成功举办

筑牢安全防线,让城市生活更安全!2024第三届杭州消防展今日举办

行业首创!好太太发布阳台生活新趋势

上半年赔付超47亿,泰康人寿持续打造“服务好”新寿险公司

创新创业助力同疆共创:电商与直播带货,让疆品走向世界舞台

破纪录!八一国际部被名校刷屏!

数字经济新动能:同疆共创引领援疆助农新潮流

同疆共创,点亮民族经济新未来

真相只有一个!小天才旗舰Z10名侦探柯南联名款上市

2024四川丹巴县首届“美人谷杯”篮球联赛开赛

乘势当红旗遇欧洲 红旗奔赴2024中法行