论文部分内容阅读
在数据大爆发的今天,算法具备了对海量数据进行自主学习、自主判断的能力,这项技术在用户画像、产品定价、信用评价、保险核保、福利申请以及人力资源管理等商业领域和公共管理领域广为沿用,由此引发了一系列算法歧视风险,算法决策对特定群体的,系统性地、重复性地不公正对待,将对受害群体乃至整个社会产生多重不利影响,算法歧视问题亟待解决。但由于当前的法律规制无法对算法的公开性、可责性要求进行有力回应,有效规制算法应用所带来的歧视行为,故本文通过分析算法歧视的相关概念、特征、具体表现、法律风险,总结域内外的法律规制经验,结合算法歧视的具体发生场域,就商业领域与公共管理领域的算法歧视问题探索不同的规制路径,从传统市场规制法的创新性适用到市场管制排他权制度的嫁接,构建不同领域不同角度的法律规制路径。除去绪论,本文共分为五章,第一章通过对算法和歧视概念的界定与分析,确立算法歧视的基本定义,明确了其隐蔽性、结构性、歧视性的特征成因。并就商业领域和公共管理领域的算法歧视行为的产生原因和具体表现展开详述。第二章是对由法律来规制算法歧视的必要性展开证成,算法歧视对公民的平等权,尤其是以就业平等为代表的机会平等和以受法律平等保护为代表的权利平等这两项法定基本权利有妨害之虞,并且由于算法不公开、不透明、不接受质询的特性,决策相对人很难向算法主张其陈述申辩的正当程序性权利,商业领域中的算法价格歧视行为更是对消费者群体的欺瞒,此类行为侵犯了消费者的知情权和选择权。由此可见算法歧视所引发的诸多社会风险具有非法性,亟待法律的有效规制,且由于当前算法行业的价值规范和行为标准的缺席,行业规制的内生动力不足,而伦理规制尚且由于技术层面的瓶颈还难以生效,故由法律来规制算法是必要且迫切的。第三章梳理了国内外法律体系对算法歧视的回应,并就如何有效规制提出路径选择。从国内来看,我国对于算法歧视问题的直接回应零散见于《电子商务法》之中,并没有体系化的立法规范,在措施上依然从个人数据保护的角度加以间接规制。而从国外来看,欧美作为法律规制算法的先行者,在实践中形成了较为成熟的规制体系,欧盟形成了以“数据风险预防”为重心的规制模式,着重从个人信息保护和数据管理角度预防算法产生严重危害;而美国形成了以“算法审查评估”为重心的规制模式,通过预防性的算法审查和事后性的责任审查来强化对算法的法律监管和责任落实。在总结上述域外算法规制经验后,本章节针对各算法应用领域内产生原因不同、违法属性不同的算法歧视问题,立足我国法律体系对算法歧视规制回应性不足这一现状,提出了不同领域不同角度的算法规制路径选择。第四章提出了商业领域算法歧视的规制路径,将商业领域最具有代表性的算法歧视行为——算法价格歧视行为视为规制对象。充分考量其盘剥消费者剩余,侵犯财富转移公平性等因素,通过确立“行为定性+实施效果”的违法性审查标准,合理拓展平台经营者市场支配地位的认定方法,制定切合实际的算法价格歧视规制策略,来构建算法价格歧视的反垄断法规制路径;同时,算法价格歧视行为也是对消费者知情权和公平交易权的侵犯,故通过确认算法价格歧视行为的消费欺诈属性,来认定经营者的缔约过失责任或惩罚性赔偿责任,以此实现消费者权益保护法对算法价格歧视行为的规制。在传统部门法侵权救济的规制路径之外,加强数据主体的被遗忘权保护,赋予数据主体算法决策拒绝权以达成算法歧视的预先性规制,完善算法监管体系以达成常态化的算法歧视规制。第五章提出了公共管理领域算法歧视的法律规制路径。公共管理领域的算法系统具有“准算法权力”,故需要破除算法不透明、不公开的“黑箱”特性来实现对算法的有效审查,从而达成对公共管理领域算法歧视的有效规制。本文的观点是通过建构算法排他权制度以实现有效的算法审查和监督,进而开辟出一条以市场进入管制换取算法透明度的规制路径,同时建立相应的算法歧视审查机制以限制歧视性算法进入公共决策领域。