加强算法风险全流程治理 创设算法规范“中国方案”
2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部、市场监管总局联合发布的《互联网信息服务算法推荐管理规定》(下文简称《规定》)正式施行。在大数据经济时代,算法是个人信息处理者收集和处理数据、推送信息、调配资源的核心力量。算法一旦失范,将给国家利益、社会公共利益和公民合法权益带来严重威胁。因此,《规定》的施行具有鲜明的时代意义和现实需求。
算法是计算机的核心运行逻辑,是一套基于设计目的的数据处理指令的总和,在底层上体现出专业科技的特点。算法也是一门赋能技术,应用场景为赋能领域,当算法应用到具体的商业模式当中,就会产生应用型风险。算法关系就是这样一种“方式”与“领域”的叠加关系或结合关系。因此,算法规范不能不谈 “方式”,算法的设计、测试、评估属于科技活动,“算法黑箱”、“算法霸权”部分是因科技活动本身的不规范所致;算法规范也不能只谈“方式”,因为正是算法层出不穷的应用场景,使得算法现实地影响我们的权益,影响人的自由发展。《规定》充分把握了算法的内生性风险和应用型风险,有针对性地设计风险防范规则。
第一,算法内生性风险的控制重点在算法的设计和运行阶段。算法的设计、测试、评估非专业人士不能为之,这种“排他性”表明算法活动是一项专门技术。算法黑箱、算法歧视等痼疾的产生,部分也源于科技活动本身的复杂性。因此,对科技活动的规范,需要从科技风险防范的角度设计专门规则。《规定》鼓励使用算法传播正能量、抵制违法和不良信息,不得设置诱导用户沉迷、过度消费等有违伦理道德的算法模型,推动算法向上向善。表明了作为科技活动的算法研发不能仅有工具理性,必须具有价值理性。
在具体规则层面,《规定》也侧重于从技术角度,直接规范算法设计和运行。例如,第9条第1款要求算法推荐服务提供者建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序;第10条要求算法推荐服务提供者加强用户模型和用户标签管理;第12条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性等等。
特别值得关注的是,《规定》第24条规定算法备案制度,要求算法推荐服务提供者提供算法类型、算法自评估报告、拟公示内容等信息。科技活动风险控制首推风险评估与实验数据记录。如果算法活动缺乏风险评估,则使得风险无法从源头控制;如果算法设计和检验缺乏记录,则监管机构无法进行有效地评估、追溯和验证复杂算法。备案制度一定意义上倒逼算法推荐服务提供者积极进行风险评估和全流程记录,既能督促运营者在整个算法活动阶段考虑算法合规问题,也有助于帮助执法机关监督算法活动。
第二,算法应用型风险的治理覆盖了算法运行的全生命周期。算法既是科学技术,也是赋能手段,其除了具备科技固有的风险之外,也因在商业和公共事业领域的嵌入式应用,对源于工业时代立法模式和治理模式不断冲击,引发了诸多治理痛点。在应用环节,我们也要贯彻程序性控制。但算法应用有着不同于算法研发的特殊性:算法应用直接作用于算法相对人。算法应用将影响算法相对人的合法权益——算法针对算法相对人的诉求做出决定。为了解决应用型风险,《规定》针对未成年人、老年人、劳动者和大数据杀熟等场景,分别配置相应的行为规则(第19条至第21条)。为了实现自下而上的算法治理,《规定》还通过权利路径,赋予个人对抗算法决策的权利。
《规定》第17条第1款规定:“算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。”相较于《个人信息保护法》第24条第2款的规定,本条进一步明确规定了算法应用拒绝权。
此外,第17条第2款规定:“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。”该条规定为我国首创,能够更全面地保护算法相对人的利益。算法相对人可能并不是要求算法使用人停止推荐服务,而是禁止推定特定类型的服务。通过赋予算法相对人删除标签的权利,能够更全面的满足用户的要求。
同时,《规定》第17条第3款还规定:“算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。”比如,在动态定价当中,如果推荐给用户的价格偏高,可能构成对用户权益的重大影响。用户可以要求算法推荐服务提供者给予说明。如果构成侵犯民事权益的,算法推荐服务提供者应根据法律规定承担相应责任。
算法风险的全流程治理,在“风险-规制”框架下寻找新的平衡点和组合方式。算法在本质上是处理数据的代码,是一项应用科学技术。但技术并非中立,尤其是当算法处理的不是“物”、而是“个人信息”时,算法活动就兼具社会活动属性,内涵伦理和社会风险。因此,算法规范难题部分来源于科技的专业性和工具性,部分来源于应用场景当中的价值复杂性。《规定》针对科技风险与应用风险设计规则,在“风险-规制”框架下创设了算法规范的中国方案。
(作者:林洹民,浙江大学光华法学院讲师,工业与信息化法治研究院研究员)
标签:
相关阅读
-
加强算法风险全流程治理 创设算法规范...
2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部、市... -
《互联网信息服务算法推荐管理规定》今...
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》... -
增长14.2%!2021年我国研发经费支出27864亿元
2月28日,国家统计局公布《2021年国民经济和社会发展统计公报》(以... -
国家统计局:2021年我国经济规模达114.4...
央视网消息:国家统计局2月28日发布《2021年国民经济和社会发展统计... -
冬残奥会主媒体中心今天正式运行
今天(28日),北京冬残奥会主媒体中心在完成冬奥会到冬残奥会全部... -
为热爱助力!滑雪发烧友的“神器”是这...
奥运选手的“黑科技”?滑雪发烧友的“神器”?北京冬奥会的筹办有...
精彩放送
-
捷途X90子龙全国上市,标配2.0T发动机仅...
2月28日晚,捷途X90子龙全国上市发布会在浙江横店影视城盛大举行。... -
《互联网信息服务算法推荐管理规定》今...
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》... -
李佳琦直播推荐——甲乙饼开放加盟打造...
开年以来,餐饮界资本回归理性,都在寻找有潜力的优质品牌。而此时... -
冬残奥会火种采集仪式与冬奥会不同 每...
在今天(3月1日)举行的冬残奥火炬传递发布会上,相关负责人介绍,北... -
北京冬残奥火炬传递3月2日至4日进行 线...
3月1日,北京冬残奥会主媒体中心召开新闻发布会,介绍冬残奥火炬传... -
美国凌霄花多少钱一棵
市场上长度1 5米美国凌霄花35元一棵,长度2米美国凌霄花40元一棵。... -
加强算法风险全流程治理 创设算法规范...
2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部、市... -
个税退税开始!税务部门提醒不要相信退...
3月1日,个人所得税退税登上热搜。不少网友晒出自己的退税金额,有... -
山东今起强制实施垃圾分类
3月1日,《山东省生活垃圾管理条例》正式施行,明确要求垃圾分类投... -
加强算法风险全流程治理 创设算法规范...
2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部、市... -
一颗几乎杀死了所有恐龙的小行星是在春...
一颗几乎杀死了所有恐龙的小行星是在春天撞击地球的——这一结论是... -
瀚海检测完成近亿元战略融资,驼峰资本...
近日,军民融合第三方检测龙头企业—上海瀚海检测技术股份有限公司... -
春晚顶流《只此青绿》联名竹叶青春茶,3...
三月伊始,春光萌动。春,自古有美好和生机的寓意。人们也习惯于将... -
这个宇宙冲击波直径是银河系60倍 以530...
宇宙中两个最大的物体碰撞时会发生什么?新研究表明,它们产生了宇宙... -
广东新增本土确诊病例31例和本土无症状...
2月28日0—24时,广东省新增本土确诊病例31例,深圳报告23例,东莞... -
5分钟充至50%,一加首发长寿版 150W 超级闪充
2月28日,OPPO在巴塞罗那MWC 2022世界移动通信大会正式发布长寿版15... -
持续深耕全品市场 哇哦金融2022合作伙...
2月26日,长城汽车金融旗下独立全品牌哇哦金融,在中国革命圣地延安,... -
东易日盛集团入选新华社民族品牌工程·...
2月22日,东易日盛家居装饰集团股份有限公司(以下简称东易日盛)入... -
国家卫健委:2月28日新增确诊病例200例...
2月28日0—24时,31个省(自治区、直辖市)和新疆生产建设兵团报告新... -
深圳昨日新增23例本土确诊病例和5例无症...
2月28日0—24时,深圳新增28例病例,其中,23例诊断为新冠肺炎确诊... -
《互联网信息服务算法推荐管理规定》今...
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》... -
增长14.2%!2021年我国研发经费支出27864亿元
2月28日,国家统计局公布《2021年国民经济和社会发展统计公报》(以... -
云南新增本土确诊病例6例、本土无症状感...
2月28日0-24时,云南全省新增确诊病例10例,其中境外输入4例(缅甸2... -
月球“土特产”抵达上海 助力我国月球...
近日,经月球样品专家委员会评审,探月与航天工程中心审核,国家航... -
3月天宇:行星唱主角,晨曦展风采
早春三月,气温回升,“天象剧场”也开始回暖。天文科普专家介绍,3... -
驻柬埔寨使馆发言人就柬警方查证“血奴...
我馆对网传“血奴”案高度关注,在敦促柬埔寨警方于2月15日立案后,... -
2021年度个税汇算今起开始 你是退税还...
3月1日起,2021年度个税汇算正式开始。个税再度迎来多退少补,快来... -
全国人民代表大会常务委员会关于设立成...
全国人民代表大会常务委员会关于设立成渝金融法院的决定 -
全国人民代表大会常务委员会任命名单
任命李玉妹(女)为第十三届全国人民代表大会华侨委员会副主任委员。... -
全国人民代表大会常务委员会关于中国人...
为了深化国防和军队改革,加强军队的指挥和管理,推进国防和军队现... -
这封回信让苏翊鸣激动万分
近日,中国单板滑雪运动员苏翊鸣给习近平总书记寄出了自己的第一封... -
全国人民代表大会常务委员会任免名单
免去郭雷的第十三届全国人民代表大会常务委员会副秘书长职务。任命... -
二十四节气大赏之十七:寒露
二十四节气大赏之十七:寒露 -
十三届全国人大常委会举行第一百一十一...
十三届全国人大常委会第一百一十一次委员长会议28日上午在北京人民... -
武汉新增病例为奥密克戎变异株感染 绥...
中国国家卫健委28日通报,27日中国内地新增确诊病例234例,其中境外... -
春运40天:较大交通事故起数近十年最少
春运40天,全国道路交通总体平稳有序顺畅,发生一次死亡3人以上较大... -
香港特区政府教育局:学校提前至3月7日放假
香港特区政府教育局局长杨润雄28日召开记者会宣布,因应疫情严峻,... -
女王节犒劳自己,阿依舍冬虫夏草滋养你...
温馨的家庭,少不了一个为家庭付出的女性角色,但绝不应该只是一个... -
为热爱助力!滑雪发烧友的“神器”是这...
奥运选手的“黑科技”?滑雪发烧友的“神器”?北京冬奥会的筹办有... -
冬残奥会主媒体中心今天正式运行
今天(28日),北京冬残奥会主媒体中心在完成冬奥会到冬残奥会全部... -
国家统计局:2021年我国经济规模达114.4...
央视网消息:国家统计局2月28日发布《2021年国民经济和社会发展统计... -
一起向未来|“小雪花”向世界展现青春风采
北京2022年冬奥会共录用赛会志愿者一万八千多人,其中北京赛区占比6... -
点亮冬奥荣光,万特力护膝助力冠军王者...
继2008年的北京奥运会后,时隔14年,第24届冬季奥林匹克运动会让中... -
“颗粒归仓”,严格纳税,长康实业争当...
2022年2月12日,湖南省湘阴县首届企业家大会暨优化营商环境品牌提升... -
退役军人事务部与6家企业签署合作协议 ...
退役军人事务部与中国银联、中国石油、中国邮政、顺丰集团、德邦快... -
黑龙江佳木斯发现1名核酸初筛阳性人员
佳木斯市向阳区在对外地协查推送人员集中隔离期间,通过核酸检测发... -
三星伴月、金星西大距等精彩天象将于3月...
3月份首先登场的将是水星和土星极近天象。3月初,水星和土星在每天... -
国家统计局:2021年国民经济持续恢复
国家统计局今天(28日)发布《2021年国民经济和社会发展统计公报》,... -
焦点访谈:拼搏!冬残奥 “雪容融”接...
冬奥会的热情余温犹在,3月4日北京冬残奥会的大幕即将拉开。秉持着... -
全国人大代表印萍:让科技赋能履职 守...
黄海之滨崂山脚下的青岛大河东村,已多年没有到访的白鹭和红嘴鸥在... -
外交部介绍在乌中国公民撤离进展
外交部发言人汪文斌在2月28日举行的外交部例行记者会上应询介绍了在... -
炫!彩绘“滇池百鸟集”上线 最强昆明...
为迎接COP15第二阶段会议,展现云南昆明生物多样、生态丰富的魅力,进... -
减速电机概念上市公司有哪些?中大力德...
2月28日减速电机概念报跌,德恩精工(15 12,-2 39%)领跌,江南奕... -
2022年商超板块概念股有哪些?西麦食品...
周一收盘,商超概念报涨,新大陆(17 67,0 54,3 15%)领涨,金龙... -
和煤炭贸易相关的概念股有哪些?安源煤...
2月28日收盘消息,煤炭贸易概念报涨,安源煤业(3 37,4 01%)领涨... -
家用手套相关股票有哪些?三夫户外领涨
2月28日收盘分析,家用手套概念报涨,三夫户外2 99%领涨,康隆达、... -
有机溶剂概念股有哪些?新化股份市值多少?
有机溶剂概念股有哪些?有机溶剂行业概念股票有:卓锦股份、新化股份... -
怎么挑选奶粉品牌?优博瑞慕具有多重优...
有了宝宝以后,奶粉成为家庭的一大消费,而对于新手家长来说,怎么... -
香港各界传递正能量 齐心协力同抗疫
在香港抗疫形势依然严峻的紧要关头,随着中央援港抗疫措施陆续推出... -
一起向未来 | 既简约又精彩 北京冬残...
央视网消息:2月27日,国际残奥委会、北京冬奥组委首次高层协调会以... -
洗面奶什么牌子好用?盘点好用的洗面奶品牌
说到洗面奶,相信大家熟悉不过了,清洁护肤产品是日常护肤必备,全... -
香港特区政府公布最新内地供港鲜活食品...
28日,香港特区政府发言人表示,27日由内地供港的鲜活食品供应大致... -
蔚来跨界造手机?顾均辉:智能手机的竞...
蔚来传出消息要造手机了!网友灵魂拷问:能换电池吗?近日,媒体透... -
一起向未来 | “雪容融”接棒 场馆转...
央视网消息:“细节入手”不仅需要细心、细致,更需要专业。从2月23... -
启航!2022东风日产林芝半程马拉松赛新...
2022年2月24日,2022东风日产林芝半程马拉松赛新闻发布会在广东广播... -
【地评线】东湖评论:为爱插上翅膀,让...
“双减”政策落地之后,体育培训班日趋火爆,“少儿攀岩”“少儿蹦... -
应对天气回暖 冬残奥会山地赛场保障充分
央视网消息(新闻联播):临近3月,华北地区虽有弱冷空气影响,气温... -
冬奥会基础做“加法” 国家冬季两项中...
【北京冬残奥我们来了】在国家冬季两项中心的赛道上,场馆工作人员... -
抓好春耕备耕 守好保障国家粮食安全底线
央视网消息(新闻联播):中央一号文件明确,要牢牢守住保障国家粮... -
“油菜大王”沈昌健:不能让种粮大户和...
沈昌健在油菜田。受访者供图(两会人物)“油菜大王”沈昌健:不能让... -
苗绣传承人石丽平:非遗的传承必须“用...
(两会人物)苗绣传承人石丽平:非遗的传承必须“用两条腿走路”中新... -
三款热门车型推荐:捷途X70 PLUS、第三...
对家庭用车来说,拥有大空间SUV是一件非常令人羡慕的事,能在满足家... -
航拍赣鄱|“铁牛”闹春耕
央广网宜春2月28日消息(记者胡斐)春耕时节,春暖花开,万物复苏,... -
内蒙古 风吹雪致17人被困 民警及时救援
此页面是否是列表页或首页?未找到合适正文内容。 -
瑞承家族办公室:直面财富传承难题
近日,年度行业盛会遇见CIO·2021家族办公室首席投资官年度论坛在上... -
全国人大常委会决定任命民政部部长
十三届全国人大常委会第三十三次会议28日上午经表决,决定任命唐登... -
省薪云:深耕灵活用工行业 助力经济新...
近年来,得益于国家政策的支持和群众对于文化消费的旺盛需求,文娱... -
破土新生!2022“葵花奖”,更专业,更绚烂
历久弥新,2022年第六届葵花奖华丽蜕变,以全新的面貌和更专业的态... -
深化品牌认知教育,康师傅冰红茶这波操...
摘要:快速构建品牌认知教育,康师傅冰红茶这次打了个样!在市场同... -
一加 10 Pro 胖达白 512GB 至尊版3...
一加 10 Pro 胖达白 512GB 至尊版将于3月1日上午10点正式开售,... -
两部门联合发文 加强保障性租赁住房金...
银保监会、住房和城乡建设部日前联合印发《关于银行保险机构支持保... -
什么样的智能座舱让你爱不释手?不如看...
如今,智能化的浪潮已经席卷了全球,在汽车领域,也在渐渐地从大屏... -
家国情怀,向新出发,小糊涂仙打造春节...
日月其迈,岁律更新。2021至2022新年之际,小糊涂仙品牌推出家国同... -
直播|爽爽贵阳·百城百媒 六爽四季主...
为彰显“爽爽贵阳”独特魅力,围绕爽身、爽心、爽眼、爽口、爽购、... -
乳铁蛋白位居营养界“C”位,乳铁蛋白哪...
宝宝健康快乐成长是每位宝爸宝妈的心愿,如何提高宝宝的抵抗力,给... -
国家卫健委:2月27日新增确诊病例234例...
2月27日0—24时,31个省(自治区、直辖市)和新疆生产建设兵团报告新... -
《红纸鹤》定档3月1日:空姐妻子绝地反...
由司法部指导,法治日报社影视中心出品的《红纸鹤》已定档3月1日腾... -
编织数字经济时代“算力网” “东数西...
国家发展改革委、中央网信办、工业和信息化部、国家能源局日前联合... -
教育部:为欠发达地区培养高质量基础教...
为整体提高师范教育办学水平,为欠发达地区培养高质量基础教育教师... -
《互联网信息服务算法推荐管理规定》明...
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》... -
教育部:为欠发达地区培养高质量基础教...
(中青报·中青网记者樊未晨)为整体提高师范教育办学水平,为欠发达... -
一箭发射22颗卫星创造新纪录 它是如何...
2月27日上午11时06分,长征八号遥二运载火箭飞行试验在中国文昌航天... -
冷空气将影响中东部地区 华北黄淮等地...
中新网2月28日电据中央气象台网站消息,预计2月28日至3月1日,冷空... -
冷空气将影响中东部地区 华北黄淮等地...
预计2月28日至3月1日,冷空气将影响我国中东部地区,西北地区中东部... -
生命的色彩因你而绽放——破解罕见病防...
新华社北京2月27日电题:生命的色彩因你而绽放——破解罕见病防治难... -
培训质量参差不齐 新职业考证班鱼龙混...
家庭教育指导资格证,7980元代考包过;整理收纳名师培训,10天速成... -
山西省新增本地新冠肺炎确诊病例4例
2022年2月27日0-24时,山西省新增本地新冠肺炎确诊病例4例(太原市尖... -
广东省新增本土确诊病例40例 其中深圳...
据广东省卫健委网站消息,2月27日0-24时,广东省新增本土确诊病例40... -
新疆巴音郭楞州和硕县发生4.6级地震 震...
中国地震台网正式测定:2月28日3时52分在新疆巴音郭楞州和硕县(北纬... -
云南新增2例本土确诊病例 21例本土无症...
2月27日0-24时,云南全省新增确诊病例3例,其中境外输入1例(缅甸1例...