1、 第 卷 哲学社会科学版淮阴师范学院学报算 法 解 释 权 的 制 度 阐 释 基于个人信息保护法第 条第 款的讨论孟 波，（淮阴师范学院 法律政治与公共管理学院，江苏 淮安；南京师范大学 法学院，江苏 南京）摘 要：算法自动化决策因其客观性、高效性和准确性等优势被广泛应用于经济、政治、文化、生活等领域，给人民群众带来了幸福感和获得感。随着算法自动化决策日益广泛地渗透到社会生活的各个方面，产生了“大数据杀熟”“算法歧视”“算法黑箱房”等一系列风险。为了控制算法自动化决策所带来的风险，平衡算法处理者和算法相对人的利益，个人信息保护法在第 条第 款确立了算法解释权。通过对算法解释权的立法溯源，比较
2、欧盟和美国的治理模式，指出我国算法解释权存在权利内容模糊、解释标准矛盾、行权程序欠缺等问题。这些问题需要通过构建新场景化的解释权制度、发展多元协同的解释权制度、尊重知识产权的算法解释权制度，予以完善。关键词：算法解释权；算法决策；自动化决策；个人信息保护法 中图分类号：.文献标识码：文章编号：（）收稿日期：基金项目：年度江苏高校哲学社会科学研究项目“江苏新高考改革驱动下志愿填报和录取机制研究”（）。作者简介：孟波，助理研究员，博士研究生，主要从事数据法学研究。在“一切皆算法”的数字化社会，自动化决策被广泛应用于经济、政治、文化、生活等领域。算法作为自动化决策的“大脑”，主导和控制着自动化程序的
3、决策走向。算法指导下的自动化决策（简称“算法自动化决策”），具备计算机程序的客观、高效、准确等优势，受到人类的青睐与信任。但是，算法自动化决策也产生了“大数据杀熟”“算法歧视”“算法黑箱房”等危害。在算法自动化决策引致的危害中，公民信息利益受损问题越来越受到立法者的关注与重视。习近平指出：“网信事业发展必须贯彻以人民为中心的发展思想，把增进人民福祉作为信息化发展的出发点和落脚点。”党的十八大以来，我国信息网络领域立法速度加快。网络安全法电子商务法数据安全法个人信息保护法等法律的颁布和实施，标志着我国数字社会法律制度建设初显成效。但是，现有法律规范还存在许多不足，需要进行有针对性的探讨和完善。本
4、文基于个人信息保护法第 条第 款的规定，讨论算法解释权在个人信息保护领域中的实践限度，提出改进算法解释权的制度和措施，为个人信息保护法的修订和完善提供些许建议。一、个人信息保护法第 条第 款的立法溯源 从我国数字法律体系看，早期的网络安全立法主要立足于公共领域，重点关注网络及系统的安全可靠性问题。而数据安全法则是在整体上建立对数字社会生产要素体系的保障，其规范对象既有个人层面的数据要素，也有更为广泛的非个人数据要素。在数字化时代，亟须一部专门法律保护个人数据。在这一需求下，个人信息保护法在第 条第 款确立了算法解释权。算法解释权并非我国立法首创，其主要吸收了欧盟和美国关于算法自动化决策的规制思
5、路，尤其是借鉴了欧盟通用数据保护条例（该款规定：“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”，c ，简称）第 条和序言（）第 条的规定。因此，有必要立足全球视野，探究个人信息保护法第 条第 款的立法渊源。（一）欧盟统一立法中的算法解释权欧洲人权公约和欧盟基本权利宪章将人的尊严和自主性确立为欧洲宪政捍卫的基本人权。在 中，确立算法解释权的根本目的在于维护人的尊严和保障人的自主性。为了实现这一立法目的，对于算法自动化决策采取了“普遍禁止 特殊例外”的双层规制模式。第一层，在算法自动化决策普遍禁止条
6、件下，不赋予数据主体算法解释权。第 条第款规定了数据主体有权拒绝对其产生法律效力或重大影响的完全自动化决策。学者们对该法条产生了两种不同的理解。一种观点认为，此处赋予了数据主体可以反对仅由自动化决策作出的对其有影响的决定的权利；另一种观点认为，反对权已经在 第 条中予以界定，该款是一种对处理者的普遍性禁止义务，即在一般情况下数据控制者和数据处理者不得对数据主体做出仅仅基于自动化的决策。这两种观点的差异性在于，如果将第 条第 款认定为“反对权”，则该权利更多地体现出救济性，表现为在处理者作出完全自动化决策之后，数据主体可以对该自动化决策提出反对意见，即允许自动化决策在先；而如果将该款认定为普遍禁
7、止性规定，则在通常情况下禁止对数据主体进行完全自动化决策，即禁止自动化决策在先。第二层，在算法自动化决策特殊例外条件下，赋予数据主体有限的算法解释权。第 条第 款规定了三种允许算法自动化决策的例外情形：（）法律规定履行合同之必要；（）成员国法律规定；（）数据主体明确同意。在这三种情形下，处理者可以使用自动化决策的方式作出决定。第 条提出的双层规制模式，能够给数据主体提供多层次的权利保障，避免数据主体受到算法自动化决策的侵害。如果处理者在遵循“普遍禁止 特殊例外”的规范下，对数据主体作出了基于完全自动化的决策，则数据主体依据 第 条第 款的规定，有权要求处理者对其自动化决策作出解释，即主张算法解
8、释权。值得注意的是，由于 第 条第 款并未在文本中明确规定算法解释权，导致欧洲有部分学者并不认可 确立了算法解释权。教授认为，第 条第 款仅为数据主体对于处理行为的一种知情权（）。笔者认为，要正确理解该法条的含义，需要将立法目的纳入立法体系之中，在整体上予以把握。确立算法解释权有利于更好地维护算法相对人的利益，也符合欧盟立法保护人的尊严的价值定位。另外，依据欧盟的立法规范，当对法律条文产生理解歧义的时候，应当首先在 的序言部分寻找立法释义。序言第 条规定：“数据主体有权在评估后获得决定的解释权并质疑该决定。”虽然序言部分不具备法律约束力，但正文第 条规定了数据主体可依据第 条获得解释的权利。尽
9、管学者们对 第 条第 款的规定存在争议，但学术界的主流观点以及欧洲数据保护委员会（，简称）均认为，第 条第 款确立了算法解释权。（二）美国分散立法中的算法解释权不同于欧盟的集成立法模式，美国一直采 第 条译文如下：数据主体有权利不受一个仅仅依靠包括分析的自动化处理的决定的限制，这会产生关于他 她或仅仅影响他 她的法律后果。第一款不适用，如果这个决定：（）对于数据主体和一个数据控制者之间的一个合同的建立和履行是必要的；（）这个控制者是数据主体，以及确立保护数据主体权利、自由和正当化利益的适当措施是联盟或成员国的法律所规定的；或（）基于数据主体的明确同意。在涉及第 款第（）和（）项的情况下，数据控
10、制者应当实施适当的措施保护数据主体的权利、自由和正当化利益，至少获得对控制者部分的人为干预权，表达他 她的观点和争夺决定权。在第二款涉及的决定不应当基于第 条第 款提及的个人数据的特殊分类，除非适用第 条第 款的第（）或（）项和确立适当的措施维护数据主体的权利、自由和正当化利益。区分“数据控制者”和“数据处理者”的概念。我国个人信息保护法采用的是“个人信息处理者”的概念。本文核心目的不在于区分三者之间的差异性，故全部采用“处理者”的概念。该条规定，数据主体应有权不受制于包括仅采用自动化处理手段对其个人进行精准评价，以及对其产生法律效果或者重要影响的情况在任何情况下，该等处理应该采取适当的保障，
11、包括向数据主体提供具体信息，以及获得人为干预的权利，以表达数据主体的观点，在评估后获得决定解释权并质疑该决定。该等措施的实施对象不应包括儿童。第 卷 哲学社会科学版淮阴师范学院学报用分散立法模式应对数字社会带来的挑战。分散立法可以更加有效地针对不同行业的需求制定更加契合的规范。在美国，有关算法解释权的规定散见于多部法律之中。比如，公平信用报 告 法（）、信 贷 机 会 平 等 法（）对于信用评分机制作出专门规定，要求贷款方不得利用自动化决策对借款人作出歧视性决定，对于自动化决策作出的“不利性结论”要履行“不利行动告知义务”，向借款人说明拒绝贷款“不利性结论”的决策理由和影响因素。近年来，美国不
12、断有议员提出，应将算法作为重要监管对象予以立法，要求算法自动化决策具有透明度和可问责性。该法案还要求建立算法评估制度，对于存在争议的算法决策不但要说明结论背后的逻辑法则和推理依据，还要解释结论的正确性和合法性。在美国的司法实践中，对于使用自动化决策结论的质疑声一直不绝于耳。比如，法院用于量刑前调查辅助的（）风险评估系统，即引发了关于算法自动化决策解释问题的广泛讨论。有学者认为，在审理过程中使用 自动化决策系统损害了被告人的合法诉讼权利，有违程序正义。法庭将不透明、不可解释的自动化决策结论应用于被告人，无论从理论分析上或是实践经验上都有违司法的公平与公正。为了保护公民个人信息利益，减少自动化决策
13、对于人类自主性的损害，欧美各国均以立法的形式来规范自动化决策权的行使，在此基础上发展出两种法律规制模型：一种是以欧盟 为代表的通过内部监管方式建立的统一立法模式；另一种是以美国行业法规为代表的通过外部审计方式建立的分散立法模式。无论哪种治理模式，都将治理的重点集中在算法决策的规制上，其目的在于实现算法决策的透明性和可问责性。这两种算法治理模式为我国建立算法治理体系提供了借鉴和参考，对我国在个人信息保护法中确立算法解释权起到了重要的启迪作用。二、算法解释权作为治理手段的规范理据为何各国立法机构选择算法解释权作为治理算法的主要手段，并将其置于算法治理体系的核心位置？为何我国要在个人信息保护法中确立
14、算法解释权，用以救济算法自动化决策所带来的侵害风险？笔者试从算法解释权的权利归属、价值导向和技术手段三个维度探讨各国将其作为治理手段的规范理据。（一）作为请求权的算法解释权请求权是指权利人有权请求特定人为或不为某一具体行为的权利。算法解释权是一种请求权。它是算法决策相对人请求处理者对其作出的算法自动化决策进行解释说明的权利。在自动化决策情形下，算法解释权的义务主体往往是个人信息处理者。“以属于原生抑或派生为标准，权利可被划分为原权与救济权。”相应地，请求权可以划分为基于原权的请求权和一种救济权性质的请求权。算法解释权的目的在于救济因自动化决策而受到伤害的算法相对人。算法解释权是一种基于救济的请
15、求权，其不同于救济形成权和救济抗辩权。那么，算法解释权到底属于事前解释、事中解释抑或事后解释？对此，学界存有较大争议。有的学者认为，算法解释权是一种全程性的解释权，其包含算法介入前、算法运行中和算法实施后三个阶段，且这三个阶段呈现出逻辑上的递进关系。笔者认为，算法解释权作为基于救济权的请求权，应当严格限定其适用范围，将其限定为事后解释权更为恰当，理由是：第一，如果认定算法解释权的适用范围可以跨越整个算法过程，要求算法处理者承担全程性解释义务，会增加处理者的责任负担，不利于数字经济的创新发展；第二，依据救济请求权理论，算法解释权应当在算法决策做出之后承担救济功能，不应逾越权利界限；第三，如将算法
16、解释权的适用范围扩展到自动化决策之前，则会和知情权的作用范围发生冲突，不利于两项权利的区分。这里的个人信息处理者应当做广义解释，包含设计算法决策的设计、使用、控制和处理的所有人。在算法自动化决策过程中，算法设计者处于重要的角色地位，其对于算法自动化决策的结果具有决定性的设计作用，在处理者和设计者相分离的情境下，应要求算法设计者承担算法自动化决策的辅助解释义务。个人信息保护法中的处理者主要是指“个人信息处理者”，在 中通常是指“数据控制者”和“数据处理者”。，（二）作为数据价值导向的算法解释权通常而言，人们更多关注自动化决策的优越性，这导致人们对“自动化决策”产生依赖，甚至是盲从。康德说：“你的行动，要把你自己人身中的人性，和其他人身中的人性，在任何时候都同样看作是目的，永远不能只看作是手段。”算法自动化决策不能把人作为决策的手段，而要始终尊重和坚持人的主体地位。为了填平数据处理者和算法相对人之间的“数字鸿沟”，需要赋予算法相对人以算法解释权，使其对算法自动化形成的决策具有质疑和拒绝的能力，以保障其主体性地位。质言之，赋予算法相对人以解释权是对被“数据化”的人的一种权利保障。这是基于对人
