首页 > 法学期刊 > 法学期刊文章 > 正文阅览
复制全文 下载 收藏 操作
保留字段信息
保留本篇右侧的法宝联想
保留正文中的法宝联想
页面宽度(px):

页面宽度范围为200至2000

【法宝引证码】CLI.1.304262 【时效性】尚未生效

算法评估制度如何在平台问责中发挥作用

How Can the Algorithmic Assessment Play a Role in the Platform Accountability System
【法宝引证码】CLI.A.1308340 

  • 期刊年份: 2021
  • 期号: 3
  • 页码: 45
  • 基金: 本文系2020年度国家社会科学基金一般项目“网络平台监管的算法问责制构建研究”的阶段性研究成果,项目编号:20BFX151
  • 作者: 张凌寒
  • 学科分类: 科技法学
  • 专题分类: 个人信息保护
  • 摘要:

    算法评估制度脱胎于欧盟的隐私影响评估制度,以风险预防为目标,治理时点前移,主张共同治理。但我国《个人信息保护法(草案)》中的算法评估制度与其他制度关系不明,评估后果不清晰,存在与平台责任追究的衔接失调问题。应围绕建立平台问责体系发挥算法评估制度的作用,具体包括:扩张算法评估标准,将涵盖法律规定、技术伦理与平台承诺的标准作为平台主观过错的认定标准;协调评估制度与算法透明和算法解释的关系,设置覆盖算法自动化决策全生命周期的问责点;明确算法评估与不同监管强度以及平台责任的关系,并赋予算法评估结果实质性意义,尽量避免算法评估制度“软化”与“泛化”的趋势,发挥其在平台问责体系中的核心作用。

  • 期刊栏目: 新兴权利法律问题研究
  • 英文摘要:

    The algorithm impact assessment (AIA)is derived from the privacy impact assessment system in DPA, which aims at risk prevention and advocates joint governance. In China’s Personal Information Protection Law (Draft), AIA is a system of unclear assessment results, unknown relations with other systems, and dysfunctional interface with platform accountability. The AIA should be established for the platform accountability, including: expanding the algorithm evaluation criteria, taking the criteria as subjective fault of the platform; coordinating the relationship between the AIA and algorithm transparency and algorithm explanation, setting the accountability point covering the whole life cycle of algorithm automation decision; clarifying the relationship between AIA and platform responsibility. Algorithm impact assessment should play its central role in the platform accountability system.

2021年4月末,《中华人民共和国个人信息保护法(草案)》(以下简称“《草案》”)征求意见,其中第55条明确提出:个人信息处理者应当对个人信息处理活动在事前进行风险评估。这一制度借鉴了其他国家的个人信息保护司法实践,尤其是《欧盟通用数据保护条例》(以下简称“GDPR”)第35条规定的“数据保护影响评估”(Data Protection Impact Assessment,以下简称“DPIA”)制度。近年内,世界主要国家均确立了数据处理活动(或称算法自动化决策)评估的相关制度,评估已经在数据与算法治理框架中占据重要位置。

算法是数据处理的工具,算法自动化决策是算法对大数据处理的结果。数据处理(data processing)是对数据的采集、存储、检索、加工、变换和传输的统称。数据体量的指数级增长使得数据处理的环节只有算法能够胜任,而数据处理者的算法能力决定了其数据处理水平能力。因此,数据处理活动的评估与算法自动化决策评估虽然略有制度范围、广度的差别,但在大多数语境下指向内涵相同。

那么,算法评估制度在平台问责中应起到何种作用?近年来学者们提出的算法治理解决方案要么侧重于技术,如区块链技术可无篡改地记载[1];要么侧重于提高算法系统的透明度,使得权利个体和监管部门更易理解算法的决策过程,以防止或者检测不公平自动化决策的结果[2];要么侧重于自动化决策不当结果的说明和救济。[3]然而,这些都仅侧重于算法自动化决策过程的某个特定方面。基于算法自动化决策主体的复杂性、过程的长期性,以及参与因素的多样性,有必要将“负责任”的算法制度设计目标置于一个覆盖整个算法自动化决策生命周期的框架内。即从设计、部署、运行到结果输出的整个算法自动化决策流程中,均应对相关责任主体的权利与义务予以一定的法律控制。然而,在现有的制度中,算法评估与平台算法问责衔接失调,对于其认定和追究平台责任的制度优势未能被充分发挥。

在构建算法治理时代的合理平台责任体系中,算法评估制度应占据核心地位。本文围绕算法评估制度应在平台问责中如何发挥作用的问题展开,梳理现有算法评估制度在平台治理中的作用,探讨算法评估制度面临的“软化”与“泛化”问题,并提出应从算法评估标准、制度之间协调与事后追责衔接等方面发挥算法评估制度在平台治理中的重要作用。

一、算法评估制度的演进及确立

算法影响评估制度起源于20世纪90年代的隐私影响评估制度。算法影响评估制度是以风险预防为目的,意在解决智能科技带来的事后问责的滞后性,以事前评估来避免损害事后的弥散化。

(一)算法评估制度的演进

DPIA 从20世纪90年代隐私影响评估制度发展而来

【注释】

北大法宝1985年创始于北京大学法学院,持续引领法治信息化,多年稳固高质提供法律法规、司法案例、学术期刊、法律翻译、检察文书、行政处罚文书等全类型法律检索,普遍为法律各界提供知识服务。创建智慧法务、智慧立法、法治政府、智慧法院、智慧检务、智慧学术、智能问答、大数据分析、法律人工智能等各类智慧法治解决方案和平台建设运营,竭诚服务法治中国。
爱法律 有未来!

微信扫码阅读

正文右侧法宝联想

法宝联想

热门视频更多

    智能检索 智能引注

    已进入法宝V6

    开始体验更好的法律检索服务

    返回法宝V5 留在法宝V6

    权限到期提醒

    您的部分库权限已于2022年5月31日到期,您的账号仍可以使用,但部分权限会受到限制。

    您可以点击下方“去续费”。时至法宝年中盛宴,下单满3600元 即可参与万元抽奖活动哦~

    知道了 去续费

    权限到期提醒

    您的部分库权限将在2022年5月31日到期,届时您的账号仍可以使用,但部分权限会受到限制。

    欢迎点击下方按钮续费,现在续费即刻参与万元大奖抽奖活动!高概率抽Iphone13pro、华为P50、苹果电脑等豪奖!!

    知道了 去续费