您的位置:首页 >资讯 > 国内 >

加强算法风险全流程治理 创设算法规范“中国方案”

2022-03-01 10:26:41    来源:央视网

2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部、市场监管总局联合发布的《互联网信息服务算法推荐管理规定》(下文简称《规定》)正式施行。在大数据经济时代,算法是个人信息处理者收集和处理数据、推送信息、调配资源的核心力量。算法一旦失范,将给国家利益、社会公共利益和公民合法权益带来严重威胁。因此,《规定》的施行具有鲜明的时代意义和现实需求。

算法是计算机的核心运行逻辑,是一套基于设计目的的数据处理指令的总和,在底层上体现出专业科技的特点。算法也是一门赋能技术,应用场景为赋能领域,当算法应用到具体的商业模式当中,就会产生应用型风险。算法关系就是这样一种“方式”与“领域”的叠加关系或结合关系。因此,算法规范不能不谈 “方式”,算法的设计、测试、评估属于科技活动,“算法黑箱”、“算法霸权”部分是因科技活动本身的不规范所致;算法规范也不能只谈“方式”,因为正是算法层出不穷的应用场景,使得算法现实地影响我们的权益,影响人的自由发展。《规定》充分把握了算法的内生性风险和应用型风险,有针对性地设计风险防范规则。

第一,算法内生性风险的控制重点在算法的设计和运行阶段。算法的设计、测试、评估非专业人士不能为之,这种“排他性”表明算法活动是一项专门技术。算法黑箱、算法歧视等痼疾的产生,部分也源于科技活动本身的复杂性。因此,对科技活动的规范,需要从科技风险防范的角度设计专门规则。《规定》鼓励使用算法传播正能量、抵制违法和不良信息,不得设置诱导用户沉迷、过度消费等有违伦理道德的算法模型,推动算法向上向善。表明了作为科技活动的算法研发不能仅有工具理性,必须具有价值理性。

在具体规则层面,《规定》也侧重于从技术角度,直接规范算法设计和运行。例如,第9条第1款要求算法推荐服务提供者建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序;第10条要求算法推荐服务提供者加强用户模型和用户标签管理;第12条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性等等。

特别值得关注的是,《规定》第24条规定算法备案制度,要求算法推荐服务提供者提供算法类型、算法自评估报告、拟公示内容等信息。科技活动风险控制首推风险评估与实验数据记录。如果算法活动缺乏风险评估,则使得风险无法从源头控制;如果算法设计和检验缺乏记录,则监管机构无法进行有效地评估、追溯和验证复杂算法。备案制度一定意义上倒逼算法推荐服务提供者积极进行风险评估和全流程记录,既能督促运营者在整个算法活动阶段考虑算法合规问题,也有助于帮助执法机关监督算法活动。

第二,算法应用型风险的治理覆盖了算法运行的全生命周期。算法既是科学技术,也是赋能手段,其除了具备科技固有的风险之外,也因在商业和公共事业领域的嵌入式应用,对源于工业时代立法模式和治理模式不断冲击,引发了诸多治理痛点。在应用环节,我们也要贯彻程序性控制。但算法应用有着不同于算法研发的特殊性:算法应用直接作用于算法相对人。算法应用将影响算法相对人的合法权益——算法针对算法相对人的诉求做出决定。为了解决应用型风险,《规定》针对未成年人、老年人、劳动者和大数据杀熟等场景,分别配置相应的行为规则(第19条至第21条)。为了实现自下而上的算法治理,《规定》还通过权利路径,赋予个人对抗算法决策的权利。

《规定》第17条第1款规定:“算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。”相较于《个人信息保护法》第24条第2款的规定,本条进一步明确规定了算法应用拒绝权。

此外,第17条第2款规定:“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。”该条规定为我国首创,能够更全面地保护算法相对人的利益。算法相对人可能并不是要求算法使用人停止推荐服务,而是禁止推定特定类型的服务。通过赋予算法相对人删除标签的权利,能够更全面的满足用户的要求。

同时,《规定》第17条第3款还规定:“算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。”比如,在动态定价当中,如果推荐给用户的价格偏高,可能构成对用户权益的重大影响。用户可以要求算法推荐服务提供者给予说明。如果构成侵犯民事权益的,算法推荐服务提供者应根据法律规定承担相应责任。

算法风险的全流程治理,在“风险-规制”框架下寻找新的平衡点和组合方式。算法在本质上是处理数据的代码,是一项应用科学技术。但技术并非中立,尤其是当算法处理的不是“物”、而是“个人信息”时,算法活动就兼具社会活动属性,内涵伦理和社会风险。因此,算法规范难题部分来源于科技的专业性和工具性,部分来源于应用场景当中的价值复杂性。《规定》针对科技风险与应用风险设计规则,在“风险-规制”框架下创设了算法规范的中国方案。

(作者:林洹民,浙江大学光华法学院讲师,工业与信息化法治研究院研究员)

标签:

相关阅读

精彩放送

一起向未来 | “雪容融”接棒 场馆转换以人为本:注重细节 积极备战冬残奥

香港特区政府公布最新内地供港鲜活食品情况 供应大致达到平日水平

香港各界传递正能量 齐心协力同抗疫

一起向未来 | 既简约又精彩 北京冬残奥会城市景观转换工作全部完成

冬奥会基础做“加法” 国家冬季两项中心场馆加快转换

应对天气回暖 冬残奥会山地赛场保障充分

【地评线】东湖评论:为爱插上翅膀,让少儿自由飞翔

苗绣传承人石丽平:非遗的传承必须“用两条腿走路”

国家邮政局:集中治理快递恶性低价竞争和空包刷单

2021年度个税汇算3月1日开启 今年有预约办税服务

因罕而聚 明天更好——关注国际罕见病日

北京2022年冬残奥会将于3月4日开幕 城市景观布置转换预计今天完成

27日天津新增10例本土阳性感染者 详情公布

重庆“智慧河长”系统将于四月正式上线

创意微视频|江山

俏妃经期护理,引领女性低门槛幸福创业新风向

中国拟对解放军现役士兵衔级制度作出规定

人民网评:政策发力,保持平稳健康的经济环境

他们值得更多关注!北京冬残奥会赛程表来了

为“中国星”铸就通天坦途!今年我国航天发射仍保持超高密度

品味非遗:光影之间的微缩世界

冬奥会向冬残奥会城市景观布置转换预计28日完成

银保监会、住房城乡建设部加强对保障性租赁住房发展的金融支持

农业农村部:我国蔬菜总量充足 供应有保障 价格将呈现季节性回落

交通运输部:多路段受大雾及路面结冰影响封闭

审判偷越国边境“法槌声”在中缅边境线上响起

一起向未来 | 云顶滑雪公园储雪八万方 赛道塑形基本完成

全球连线|北京冬奥会让运动员得以安心比赛——访马达加斯加滑雪运动员马蒂厄·诺伊米勒

香港新增新冠肺炎确诊病例26026例

人民网评:政策发力,保持平稳健康的经济环境

不负春光好时景 播下田野新希望——虎年春耕新图景

我国成功发射泰景三号01卫星等22颗卫星 创造一箭多星新纪录

呼和浩特:感谢你们,我们的网格员

“1箭22星”任务完成!易动宇航电推进系列产品在轨应用

全国人大代表满慎刚:潜心尾矿综合利用

全国人大代表余梅:传递基层一线声音

我国成功发射泰景三号01卫星等22颗卫星 创造一箭多星新纪录

我不想将就过一生,俏妃经期护理开启女性技能创业黄金时代

呼和浩特:与病毒赛跑的“追阳”人 —

防疫不“失守”,发展不“失速”:经济大市苏州抗疫稳产这么办

【北京冬残奥我们来了】北京冬残奥会知多少

10万人在线观战!高尔夫尊中韩日高尔夫跨国明星赛精彩举办

日中交流团体成员:北京冬奥会促进日中相互理解 两国应进一步加强交流

广西新增本土确诊病例7例 均为防城港市

扩为“十地十机构”,养老理财产品试点范围扩大

内蒙古新增本土确诊病例38例

我国成功发射陆地探测一号01组B星

国家卫健委:2月26日新增112例本土确诊病例

东部战区发言人就美舰过航台湾海峡发表谈话

从“病无医”到“早确诊” 全国罕见病诊疗协作网为罕见病诊疗提供有力支撑

广东东莞:本次疫情形势复杂严峻 基因测序均为奥密克戎变异株

广东东莞市大朗镇新增9例新冠肺炎确诊病例

广西大明山国家级自然保护区加强林区巡护 守护黑叶猴栖息家园

有趣、不可思议——澳大利亚钢架雪车银牌得主纳拉科特谈北京冬奥会之行

延续减税降费政策将有效激发市场活力

可视化|“十四五”科技创新开局良好,这些数据很亮眼!

江西鄱阳湖南矶湿地8万多只候鸟集结北迁 执法队伍加强日常巡湖监测

山西太原新增1例确诊病例,系高中生

26日0—18时 天津新增4例本土新冠病毒感染者

十词收藏!今年“三农”工作这样干

从夏奥到冬奥 北京蓝天不再只因奥运而蓝

当前我国粮食安全形势总体较好 农业发展越来越有保障

面向航天科技前沿 深空探测实验室揭牌成立

北京冬奥会疫情防控彰显“以人为本”理念

我国秋粮收购进度快于上年 粮食市场供应充足

天津东丽区新增1例本土确诊病例

2022年春运全国共发送旅客10.60亿人次

让假期不再成为“第三个学期”——教育部推动落实代表委员建议提案

2021年度全国十大考古新发现入围终评项目名单公布

高尔夫尊这场高球美少女对决,藏着高尔夫的元宇宙

奋进新征程 建功新时代|“中国数谷”抢新机激活“数字生产力”

代表委员履职丨全国政协委员刘中民:聚焦“双碳”目标 助力绿色发展之路

北京冬残奥会转换工作有序进行

细节入手!云顶滑雪公园加紧推进冬残奥会转换工作

让更多人感受冰雪运动的乐趣

遇见你丨坚守餐车37年 铁路“厨神”的最后一个春运

山西:保春耕 助农田 超2464车物资运往田间地头

多图!2022年铁路春运感人瞬间

全国大中型灌区陆续开始春灌

“工作是防疫和喂羊”——内蒙古呼和浩特市乡村疫情防控见闻

国家卫健委:2月25日新增确诊病例249例 其中本土病例93例

广东2月25日新增本土确诊病例30例、无症状9例

辽宁新增10例本土新冠肺炎确诊病例 为葫芦岛市报告

北京新增1例本土确诊病例

四川新增2例本土确诊病例 为成都市报告

广东深圳2月25日新增18例确诊病例

云南新增3例本土确诊病例

张家口赛区冬残奥运动员公共交通系统开始运行

近期为何如此湿冷?雨雪从何而来?气候专家回应

请查收,这些社保福利已“到账”!

新闻1+1丨北京冬残奥会开幕倒计时 各项工作进展如何?

广西防城港防城区新增8例新冠病毒核酸检测阳性人员

王毅阐述中方对当前乌克兰问题的五点立场

民法典总则编司法解释细化正当防卫制度规则

今年全国防灾减灾日主题为“减轻灾害风险,守护美好家园”

今年春运全国民航运输旅客3982万人次 同比增长12.5%

2022年铁路春运结束 客货同比双增

广西防城峒中疫情指向境外接触引起 病例均为轻型

倾力守护“冬奥蓝”

新华全媒+|凝心聚力守护“最小单元”——聚焦成都抗疫一线

广东东莞市部分区域调整为高风险地区

“一客一消”保障旅客安全 内蒙古呼和浩特铁路民航严把关

我国粮食安全形势总体较好 主产区累计收购秋粮同比增加342亿斤保供稳价有基础

暖身更暖心 成都高新区为抗疫一线送去慰问物资

南海军事训练船只禁入 海南海事局发布航行警告

云南镇康本次疫情为奥密克戎变异株引起

多退少补、预约办税……请查收这份个税汇算指南

OPPO多款重磅新品亮相,手机、平板和可穿戴设备都全了!