nav emailalert searchbtn searchbox tablepage yinyongbenwen piczone journalimg journalInfo journalinfonormal searchdiv searchzone qikanlogo popupnotification paper paperNew
2022, 01, 1-17
超越算法知情权:算法解释权理论模式的反思与建构
基金项目(Foundation): 2020年度江西省高校人文社会科学重点研究基地招标课题“人脸识别技术的法律治理研究”(JD20104); 2019年度司法部国家法治与法学理论研究项目“行政自动化算法决策的法律规制研究”(19SFB3015)的阶段性成果
邮箱(Email):
DOI:
发布时间: 2022-08-31
出版时间: 2022-08-31
移动端阅读
摘要:

在大数据与算法模型的双重驱动之下,人类社会逐渐迈入算法社会。在算法社会中,随着算法治理术的兴起,算法黑箱效应问题日益凸显。为缓解算法黑箱效应,有学者以GDPR为蓝本建构了算法知情权理论。究其实质,算法知情权实则是一种弱化版本的算法解释权理论。从权利哲学视角观之,作为一种外部解释权模式,算法知情权理论建基于功利主义权利哲学。然而,以功利主义权利哲学为基础的算法知情权理论存在危及数字人权、损害公平价值,遮蔽了算法模型解释可能性等问题。有鉴于此,为了充分发挥算法解释权在维护个人自主和尊严,激活个人数据权利等方面的积极作用,在理念上,算法解释权制度建构应以道义论权利哲学为基本遵循,秉持个人数据基本权利优先于商业秘密保护的原则,在解释内容、解释时机和解释方法等具体构造方面,都更加凸显数据主体权利保护,以增强算法决策的透明性、公正性和可责性。

Abstract:

KeyWords:
参考文献

(1)关于算法治理术,See Antoinette Rouvroy.“The End(s)of Critique:Data Behaviourism Versus Due Process”,in Mireille Hildebrandt,K. De Vries,eds. Privacy,Due Process and the Computational Turn:The Philosophy of Law Meets the Philosophy of Technology. Routledge,2013,pp.143-167.

(2)关于算法对个人的规训和操控的论述,参见[美]约翰·切尼-利波尔德:《数据失控:算法时代的个体危机》,张昌宏译,电子工业出版社2019年版,第89-139页;[瑞典]大卫·萨普特:《被算法操控的生活:重新定义精准广告、大数据和AI》,易文波译,湖南科学技术出版社2020年版,第77-165页。

(3)张欣:《从算法危机到算法信任:算法治理的多元方案和本土化路径》,载《华东政法大学学报》2019年第6期。

(4)[印]卡尔提克·霍桑纳格:《算法时代》,蔡瑜译,文汇出版社2020年版,第154页。

(5)目前国内外法学界围绕算法解释权制度是否存在及其正当性展开了激烈争论,国外相关研究成果,See Bryce Goodman,Seth Flaxman. European Union Regulation on Algorithmic Decision-making and a “Right to Explanation”. AI Magazine,Vol.38(2017),pp.50-57. Sandra Wachter et al. Why a Right to Explanation of Automated Decision-Making Does not Exist in the General Data Protection Regulation. International Data Privacy Law,Vol.7(2017). Lilian Edwards,Michael Veale. Slave to the Algorithm? Why a Right to an Explanation is Probably not the Remedy You are Looking For. Duke Law&Technology Review,Vol.16(2017),pp.18-84. Andrew D. Selbst,Julia Powles. Meaningful Information and the Right to Explanation. International Data Privacy Law,Vol.7(2017). Sandra Wachter et al. Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR. Harvard Journal Law&Technology,Vol.31(2018),p.888.国内研究成果,参见张凌寒:《商业自动化决策的算法解释权研究》,载《法律科学(西北政法大学学报)》2018年第3期;张欣:《算法解释权与算法治理路径研究》,载《中外法学》2019年第6期;张恩典:《大数据时代的算法解释权:背景、逻辑与构造》,载《法学论坛》2019年第4期;解正山:《算法决策规制——以算法“解释权”为中心》,载《现代法学》2020年第1期;苏宇:《优化算法可解释性及透明度义务之诠释与展开》,载《法律科学(西北政法大学学报)》2022年第1期;丁晓东:《基于信任的自动化决策:算法解释权的原理反思与制度重构》,载《中国法学》2022年第1期。

(1)参见沈伟伟:《算法透明原则的迷思——算法规制理论的批判》,载《环球法律评论》2019年第6期。

(2)丁晓东:《基于信任的自动化决策:算法解释权的原理反思与制度重构》,载《中国法学》2022年第1期。

(3) Sandra Wachter et al. Why a Right to Explanation of Automated Decision-Making Does not Exist in the General Data Protection Regulation. International Data Privacy Law,Vol.7(2017).

(1)[德]约恩·赫姆斯特鲁维尔:《人工智能与不确定性条件下的行政决定》,载[德]托马斯·威施迈耶[、德]蒂莫·拉德马赫:《人工智能与法律的对话2》,韩旭至、李辉等译,上海人民出版社2020年版,第236页。

(2) Sandra Wachter et al. Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR. Harvard Journal Law&Technology,Vol.31(2018),p.843.

(1)[德]阿明·格伦瓦尔德:《技术伦理学手册》,吴宁译,社会科学文献出版社2017年版,第268页。

(2)[英]约翰·穆勒:《功利主义》,徐大建译,上海人民出版社2008年版,第7页。

(3)[德]阿明·格伦瓦尔德:《技术伦理学手册》,吴宁译,社会科学文献出版社2017年版,第272页。

(1)[加]L. M.萨姆纳:《权利的道德基础》,李茂森译,中国人民大学出版社2011年版,第182页。

(2)[德]阿明·格伦瓦尔德:《技术伦理学手册》,吴宁译,社会科学文献出版社2017年版,第268页。

(3) Sandra Wachter et al. Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR. Harvard Journal Law&Technology,Vol. 31(2018),p.843.

(1)[英]维克托·迈尔-舍恩伯格、[英]肯尼思·库克耶:《大数据时代:生活、工作与思维的大变革》,盛杨燕、周涛译,浙江人民出版社2013年版,第75页。

(2)丁晓东:《基于信任的自动化决策:算法解释权的原理反思与制度重构》,载《中国法学》2022年第1期。

(3) Sandra Wachter et al. Counterfactual Explanations without Opening the Black Box:Automated Decisions and the GDPR. Harvard Journal Law&Technology,Vol.31(2018),p.841.

(1)[德]克里斯多夫·库克里克:《微粒社会:数字化时代的社会模式》,黄昆、夏柯译,中信出版社2018年版,第111页。

(2) See Andrew D. Selbst,Julia Powles. Meaningful Information and the Right to Explanation. International Data Privacy Law,Vol.7(2017).

(3)马长山:《智慧社会背景下的“第四代人权”及其保障》,载《中国法学》2019年第5期。关于算法自动化决策反对权的论述,See Isak Mendoza,Lee A. Bygrave.“The Right Not to be Subject to Automated Decisions Based on Profiling”,in Tatiana-Eleni Synodinou et al eds. EU Internet Law:Regulation and Enforcement. Springer,2017,pp.77-100.

(1) Sandra Wachter et al. Counterfactual Explanations Without Opening the Black Box:Automated Decisions and the GDPR. Harvard Journal Law&Technology,Vol.31(2018),p.888.又参见杜小奇:《多元协作框架下算法的规制》,载《河北法学》2019年第12期。

(2)[美]史蒂夫·洛尔:《大数据主义》,胡小锐、朱胜超译,中信出版社2015年版,第161页。

(3)[德]约恩·赫姆斯特鲁维尔:《人工智能与不确定性条件下的行政决定》,载[德]托马斯·威施迈耶[、德]蒂莫·拉德马赫:《人工智能与法律的对话2》,韩旭至、李辉等译,上海人民出版社2020年版,第236页。

(4)[美]埃里克·西格尔:《大数据预测:告诉你谁会点击、购买、撒谎或死去》(第2版),周大昕译,中信出版社2017年版,第122页。

(1) Andrew D. Selbst,Solon Barocas. The Intuitive Appeal of Explainable Machines. Fordham Law Review,Vol. 87(2018),p.1122.

(2)[美]凯西·奥尼尔:《算法霸权:数字杀伤性武器的威胁》,马青玲译,中信出版社2018年版,第201页。

(3) Reuben Binns. Algorithmic Accountability and Public Reason. Philosophy and Technology,Vol.4(2018),pp.543-556.

(4) Cynthia Rudin. Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead. Nature Machine Intelligence,Vol.1(2019),p.209.

(1)张伟涛:《当代道义论权利理论评析》,载《人民论坛》2014年第11期(中)。

(2)[德]瓦尔特·施瓦德勒:《论人的尊严——人格的本源与生命的文化》,贺念译,人民出版社2017年版,第3页。

(3)参见[瑞典]大卫·萨普特:《被算法操控的生活:重新定义精准广告、大数据和AI》,易文波译,湖南科学技术出版社2020年版,第77-165页。

(1)[德]克里斯多夫·库克里克:《微粒社会:数字化时代的社会模式》,黄昆、夏柯译,中信出版社2018年版,第108页。

(2)[美]卢克·多梅尔:《算法时代:新经济的新引擎》,胡小锐、钟毅译,中信出版社2016年版,第30页。

(3)[美]伊莱·帕里泽:《过滤泡:互联网对我们的隐秘操纵》,方师师、杨媛译,中国人民大学出版社2020年版。

(4)张恩典:《人工智能算法决策对行政法治的挑战及制度因应》,载《行政法学研究》2020年第4期。

(5)张凌寒:《算法自动化决策与行政正当程序制度的冲突与调和》,载《东方法学》2020年第6期。

(6)张恩典:《反算法歧视:理论反思与制度建构》,载《华中科技大学学报(社会科学版)》2020年第5期。

(1)[英]凯伦·杨:《自动化决策,何忧之有》,载[英]凯伦·杨[、英]马丁·洛奇:《驯服算法:数字歧视与算法规制》,林少伟、唐林垚译,上海人民出版社2020年版,第38页。

(2)刘东亮:《技术性正当程序:人工智能时代程序法和算法的双重变奏》,载《比较法研究》2020年第5期。

(3)张欣:《算法解释权与算法治理路径研究》,载《中外法学》2019年第6期。

(4)[美]兰登·温纳:《自主性技术:作为政治思想主题的失控技术》,杨海燕译,北京大学出版社2014年版,第13页。

(5)[以色列]尤瓦尔·赫拉利:《未来简史:从智人到智神》,林俊宏译,中信出版社2017年版,第296页。

(6) Danielle Keats Citron. Technological Due Process. Washington University Law Review,Vol.85(2008),pp.1249-1313.

(1) Margot E. Kaminski. The Right to Explanation,Explained. Berkeley Technology Law Review,Vol.34(2019),pp.214-215.

(1) Margot E. Kaminski. Binary Governance:Lessons from the GDPR’s Approach to Algorithmic Accountability. Southern California Law Review,Vol.92(2019),p.1529.

(2)郑智航:《人工智能算法的伦理危机与法律规制》,载《法律科学(西北政法大学学报)》2021年第1期。

(1)[英]凯伦·杨[、英]马丁·洛奇:《驯服算法:数字歧视与算法规制》,林少伟、唐林垚译,上海人民出版社2020年版,第29-30页。

(2)齐延平:《数智化社会的法律调控》,载《中国法学》2022年第1期。

(3)关于信息社会的分配正义和“可行能力”的论述,参见[荷]尤瑞恩·范登·霍文、[澳]艾玛·茹思柏:《分配公正与信息的价值——(广义上的)罗尔斯方法论》,载[荷]尤瑞恩·范登·霍文、[澳]约翰·维克特:《信息技术与道德哲学》,赵迎欢、宋吉鑫、张勤译,科学出版社2014年版,第307-324页。

(4)关于用户赋权这一个体主义数据治理模式的反思性研究,请参见丁凤玲:《个人数据治理模式的选择:个人、国家还是集体》,载《华中科技大学学报(社会科学版)》2021年第1期。

(5) Margot E. Kaminski. Binary Governance:Lessons from the GDPR’s Approach to Algorithmic Accountability. Southern California Law Review,Vol.92(2019),pp.1532-1533.

基本信息:

中图分类号:D912.1

引用信息:

[1]张恩典.超越算法知情权:算法解释权理论模式的反思与建构[J].东南法学,2022(01):1-17.

基金信息:

2020年度江西省高校人文社会科学重点研究基地招标课题“人脸识别技术的法律治理研究”(JD20104); 2019年度司法部国家法治与法学理论研究项目“行政自动化算法决策的法律规制研究”(19SFB3015)的阶段性成果

发布时间:

2022-08-31

出版时间:

2022-08-31

检 索 高级检索