未来人工智能司法领域中应用与伦理风险.docx

未来人工智能司法领域中应用与伦理风险如何应对以人工智能为代表的新一轮科技革命带来的伦理和治理上的挑战？这是一个未被以往任何单个学科的探讨所涵盖的问题。相比以往的技术，人工智能的独特之处就在于它的‚自主性。换言之，或由于技术本身的特性、或由于其应用过程中社会给予了它特定角色，当代人工智能技术已经在深度‚参加人的决策。在这个意义上，人工智能技术与传统的工具意义上的技术有质的区分。正是由于这种对人的决策的深度‚参加，人工智能技术导致了短期和长期的伦理问题。自最高人民法院在 2016 年提出建设立足于时代发展前沿的才智法院后，人工智能技术便在我国的司法领域起先应用，并取得了肯定成果。目前，大多数公开开庭的案件都已在网上直播，大部分符合公开条件的裁判文书也都上传至中国裁判文书网。法院的专网也首次实现全覆盖，并且还建立了以大数据与机器学习为基础的智能协助办案系统。1依据中国社会科学院法学探讨所、社会科学文献出版社联合发布的中国法院信息化发展报告 NO.2（2018），我国才智法院建设基本格局业已形成。2截至 2018年 5 月 23 日，人民法院通过信息化手段削减各类出行约 14.4 亿人次，削减出行约 198 亿千米，节约出行成本约 161 亿元；通过无纸化办公节约纸张 549 吨；各类信息化应用共节约群众、干警时间约 30 亿小时，相当于传统工作方式下 149 万人全年工作时间。并且新一代才智法院应用系统已可以节约法官 75%的庭前阅卷时间，该系统还能为法官供应超过 80%的量刑精准度分析、70%以上庭审文本的自动生成。3由上海市高级人民法院研发的上海刑事案件智能协助办案系统（又名206系统），主要试图解决刑事案件办案中存在的证据标准适用不统一、办案程序不规范等问题，强调系统的校验、把关、监督功能，以刚好发觉证据中的瑕疵与冲突，刚好提示办案人补正或作出说明，确保提请逮捕、移送审查起诉的案件符合法律规定的标准，提升办案质量和效率，实现防止冤假错案，削减司法随意性，推动以审判为中心的刑事诉讼制度改革的目标。4贵州省高级人民法院探究建构的类案类判机制，也主要强调对异样审判结果进行预警，协助法官实现类似案件中的法律适用统一。5我国已将用人工智能技术解决现代司法管理中的热点难点问题作为现代法治建设的重要目标，并且强调在应用技术的同时警惕技术本身带来的问题。6在美国，很早以前就针对刑事司法开发了 COMPAS、PSA 和 LSI-R 三种风险评估软件，并已广泛应用在刑事诉讼程序中。通过预料对象的再犯率、出庭可能性等因素，软件对犯罪者的保释7、量刑8和假释9作出决策。目前美国已有 50%以上的州法官利用这些人工智能模型来进行量刑。10 客观地讲，风险评估并不是新兴的领域，它始终是量刑和假释裁定的组成部分。在过去，这种风险评估依据的是法官的直觉、本能和正义感’，而现在新的系统依靠算法模型。COMPAS 与 LSI-R 模型涉及五个主要的领域：犯罪的状况、人际关系、特性、家庭以及社会排斥程度。由于这些软件的专利性，准确的考虑因素和计算权重外界不得而知。有学者探讨称，这些模型可能还包括工作经验、经济状况、家庭成员犯罪记录、年龄、性别、婚姻状况、福利、教化水同等要素。值得一提的是，其中的一些模型是为假释裁决而设计的，现在被应用于量刑。实践中，这些模型首先会依据与不特定于被评估者个人的历史数据来作出风险评估。随后，这些模型会针对被评估者个人提出一系列的问题（有时数量可能达到甚至超过 100 个），并从评估者个人回答或是从其犯罪记录中提取答案。11欧洲也起先将人工智能应用于司法之中，主要类别包括：· （1）判例法搜寻引擎； · （2）在线争议解决； · （3）帮助合同起草； · （4）分析（预料式分析、量表式分析）； · （5）合同分类与审查； · （6）诉讼通知和协助诉讼当事人的闲聊机器人。这些应用的发展都基于欧洲各国的司法数据开放之上，如在法国，官方司法公共信息包括法律法规文本，还包括判例法和有关公职人员任命的信息。12并且这种司法数据公开的趋势，在开放政府伙伴关系（Partnership for Open Government，OGP）出现后得到了增加。OGP 是一个非政府组织，它使近 70 多个成员国（包括欧洲委员会的很多成员国）与民间组织和数字巨头的代表们聚焦在一起，并以公共数据开放为主要提倡内容，希望能借此激励公民参加公共政策的完善和评估、提高公共事务的透亮度，并保证公共服务的正义和通过处理数据库中的大量公共信息来提高公共服务人员的诚信度。在 2016 年，欧洲司法效率委员会首次关注并评估了各国在运用人工智能处理开放数据的问题（见图 8-1）。 图 8-1CoE 成员国截至 2016 年实施司法裁判开放数据状况统计（评估方案 Q62-4）13 在全部接受调查的欧盟成员国当中，仅有五个宣布他们在 2016 年没有实施司法裁判数据开放政策，这表明白欧洲司法机构对透亮度的渴望，以及希望利用人工智能提高司法效率成为可能。当然了这种司法裁判开放数据的做法必需要依靠政府的支持，如法国在 2016 年颁布了一项法律，建立了实施法院裁判数据公开的强制框架，即数字共和国法。这部法律第 20 条与第 21 条打破了以往从司法和行政法院、法庭中选择有特别利益的裁判予以公开的逻辑，并确立了除法律（或为司法裁判之目的）规定的和为了爱护有关人员隐私的特定案件外，一切司法裁判数据都是可公开的。14与此同时，英国在家事审判改革中也起先将相关技术引入司法领域，司法委员会（Justice Select Committee）反复强调数据收集对证据发觉的重要作用，并对家事审判中数据收集方面的极大缺陷表示悲观。英国关于家事司法审查以来关于家事审判制度改革的总结报告家事司法的更好将来（A Brighter Future For Family Justice）指出，建立儿童和家事法庭询问服务支持署（Cafcass）和法院与裁判所事务局（HMCTS）共享的家事案件管理系统的工作正在推动过程中。业务分析员（business analyst）已经作出了高水准的业务要求，法院与裁判所事务局的信息技术优先化委员会（IT Prioritisation Board）也已同意将该项目提前至下一阶段：司法部（Mo J）的信息技术早已进入可行性测试阶段。政府部门亦对司法审查作出回应，接受设立在线信息中心（online information hub）等建议，为离婚案件供应在线服务，促进案件分流，削减法院资源消耗。15由剑桥高校和英国杜兰警局联合开发的危害风险评估工具（Harm Assessment Risk Tool，HART）的系统已经在司法中广泛运用。该系统主要针对一些不须要起诉的稍微犯罪，对于此类犯罪，该系统可以通过数据分析给出量刑与处置建议，帮助法官作出更为有效的判决，削减相关人群的将来再犯。16司法的干脆功用是定分止争，然而它的影响不止于此。人有何种自由、如何与他人互动，都会因司法而变更。在这个意义上，良好的司法是人的自由的基础。在司法中摆正人工智能的位置，关涉人怎样才不被工具化、怎样才得到应有的敬重。倘如权利的内容如何、应当赐予何种救济的确定都出自机器，那么人类就离漂亮新世界不远了。在这个意义上，强调人工智能不应剥夺人的道德主体性，是司法领域应用人工智能的基本准则。注 释 1 ‚才智法院’建设是今年两会’最高人民法院工作报告的一个亮点和闪光点。时代在进步，人民法院势必要与时俱进，主动适应互联网时代的节奏，依托现代化人工智能，围绕司法为民、公正司法，坚持司法规律、体制改革与技术变革相融合，以高度信息化方式支持司法审判、诉讼服务和司法管理，实现全业务网上办理、全流程依法公开、全方位智能服务的人民法院组织、建设、运行和管理形态。从周强院长的报告中我们看到，从 2016 年起最高人民法院提出了建立立足于时代发展前沿的才智法院’，全国法院就在不断地进行着信息化这样一场深刻的变革。经过了一系列的摸索和实践，2017 年才智法院’建设已经取得了肯定的规模。全部公开开庭的案件都上网直播。最高人民法院自 2016 年 7 月 1 日起全部公开开庭案件都上网直播，公众可以通过访问中国庭审公开网’点击今日直播’，也可点击案件回顾’播放其他案件庭审录像，截至 2018 年 3 月 8 日，全国累计直播 66 万余件，累计访问近 50 亿人次。全部符合公开条件的裁判文书全部上网。截至 2018 年 2 月底，中国裁判文书网已收入文书总量达 4300 万余篇，访问总量达 135 亿人次，覆盖 210 多个国家和地区，成为全球最有影响的裁判文书网。法院专网全覆盖。全国 3520 个法院、9238 个人民法庭和 39 个海事法院已全部接入法院专网，建成覆盖全国四级法院的执行流程信息管理系统、人事信息管理系统、数字图书馆等平台，实现了全国法院一张网’。智能化协助办案系统胜利推广并应用。智能化协助办案系统创建性地运用大数据、人工智能破解难题，运用智能协助办案系统，不会替代线下诉讼活动和司法人员独立推断，而是通过推动公检法在共同的办案平台上、明确的基本证据标准指引下办案，在协助法官办案、便利当事人诉讼等方面发挥了重要作用。参见‚才智法院建设取得哪些成果，载新华网：，最终访问日期：2018 年 12 月 2 日。2 ‚新华社北京 2 月 18 日电（记者罗沙、丁小溪）中国社会科学院法学探讨所、社会科学文献出版社近日联合发布中国法院信息化发展报告2（2018），该蓝皮书显示，全国法院信息化建设在 2.0 版基础上取得突破性进展，目前才智法院建设基本格局业已形成。蓝皮书显示，2017 年人民法院致力于通过信息化手段供应更加优质的诉讼服务，进一步打造互联网司法服务体系，为审判执行供应科技办案支持，审判工作的智能化支持力度明显加大，针对一线法官的智能化服务水平大幅提升。同时，人民法院已基本建成覆盖四级法院、内外联动、规范高效、反应快捷的执行指挥体系，有力促进执行工作体系和实力走向现代化。此外，人民法院司法大数据的开发应用更加得心应手，司法大数据探讨院等部门在海量资源中开展专题分析探讨，较好地服务司法决策和国家治理。蓝皮书还指出，2018 年人民法院信息化建设仍需在以下七个方面持续发力，以期实现既定任务目标。一是省察信息化定位，以服务司法为中心；二是接着扭转旧观念，主动拥抱现代科技；三是系统间数据互通，避开内部信息孤岛；四是改进系统易用性，切实提升司法实力；五是系统数据集成化，努力实现业务协同；六是提升系统平安性，厘清内外查漏补缺；七是融合技术与业务，消退两张皮’现象。参见社科院蓝皮书：我国才智法院建设基本格局已形成，载新华网：最终访问日期：2018 年 12 月 2 日。3 ‚5 月 23 日，华宇才智法院产品发布会在北京国家会议中心举办，新一代才智法院应用系统以及法律人工智能平台正式上线。该系统将为法院行业供应才智立案、才智审判、才智法庭、才智执行、才智审管、协同办案、电子诉讼、才智司法管理八个重点应用场景服务。案多人少、审判执行工作压力不断加大，始终是法院工作的难题。据了解，新一代才智法院应用系统利用学问图谱技术，可自动识别当事人供应的材料信息并形成庭审要点。此外，该系统还能通过学习大量裁判文书，协助法官撰写判决书。如何优化用户的时间是我们应当更多思索的问题。’北京市高级人民法院信息技术到处长佘贵清表示。据悉，新一代才智法院应用系统可以节约法官 75%的庭前阅卷时间。同时，该系统还能为法官供应超过 80%的量刑精准度分析、70%以上庭审文本的自动生成。另外，该系统共设置了 187 个智能应用点，涵盖了法院审判执行各个场所的活动。该系统在立案、审理等五个关键节点梳理了 125 个风险点，法官在进行案件输入时，能够实时得到程序合法性、信息录入、流程完整性等是否合规的提示。该系统还为审判管理部门供应了提示预警。近年来，各地法院主动回应信息化社会的司法需求，才智法院诸多建设成果获得确定。据了解，人民法院在 2017 年通过信息化手段削减各类出行约 14.4 亿人次，削减出行约 198 亿公里，节约出行成本约 161 亿元；通过无纸化办公节约纸张 549 吨；各类信息化应用共节约群众、干警时间约 30 亿小时，相当于传统工作方式下149 万人全年工作时间。参见新一代才智法院应用系统上线，超 7 成庭审文本自动生成，载中国法院网：，最终访问日期：2018 年 11 月 11 日。4严剑漪：揭秘‚206 工程：法院将来的人工智能图景，载上海人大月刊2017 年第 8 期。另可参见崔亚东：司法科技梦：上海刑事案件智能协助办案系统的实践与思索，载人民法治2018 年 18 期；葛翔：司法实践中人工智能运用的现实与前瞻以上海法院行政案件智能协助办案系统为参照，载华东政法高校学报2018 年第 5 期。5参见贵州省高级人民法院：探究‚类案类判机制 确保法律适用统一，载人民法院报2018 年 1 月 26 日。6‚2017 年 7 月 8 日国务院印发的新一代人工智能发展规划提出，我国将围绕包括司法管理在内的社会治理的热点难点问题，促进人工智能技术应用，推动社会治理现代化。当然，科学技术的发展与应用离不开法律的规范和调整，技术中立不意味技术可以脱离法治，人工智能的技术发展与应用也不例外。法治须要完备的法律体系，也须要公允正义的司法审判，且司法是法治中最为重要的部分，因为司法是实现社会公允正义、保障法律得以正的确施的最终一关。才智法院建设，强调充分运用互联网、云计算、大数据、人工智能等现代科学技术，促进审判体系和审判实力的现代化，才智法院’让司法更公正、更高效。因此，人工智能技术的法律规制与才智法院建设之间休戚相关，既有作用与反作用的关系，又显得有些微妙与隐晦，实有必要做些有意义的探讨与思索。参见人工智能技术研发与才智法院建设，载人民法院报：，最终访问日期：2018 年 12月 2 日。7‚保释。在保释程序中，应用大数据预料功能最为引人注目的例子则是由阿诺德基金会（Arnold Foundation）设计的公共平安评估预料软件（PSA），该软件在美国目前已经被 20 多个地区的司法机关所采纳。PSA 预料软件基于对美国各州 150 万例刑事案件的分析，运用多达 10 个不同的客观因素来确定被告在预审中是否有逃跑的风险或是否有可能犯罪，从而推断被告是否应当被假释。PSA 软件的预料结果为保释程序带来诸多主动影响在试点项目之后，夏洛特市将其审前羁押率降低了 20%。参见朱奎彬、杨露、蒋罗林：大数据预料功能在‚才智法院建设中的应用，载四川警察学院学报2018 年第 30 期。8量刑。量刑过程也正在经验一场安静的革命法官用预料软件来评估罪犯再次犯罪的可能性大小，作为量刑的重要参考因素。美国部分州现在运用正式的风险评估工具，来确定定罪后的量刑判决。这些风险评估工具是运用一种特别模型来设计的。该模型考虑了几十年内上百万案例的量刑状况，并将十余种因素纳入预料因素中，然后得出被告在肯定时期内再度犯罪的可能性大小，并给出量刑类型、时间的建议。到目前为止，美国诸多法院的法官们运用这些风险评估软件作为工具来帮助他们作出确定，虽然法官仍旧保留不接受预料软件提出的量刑建议的权利，但这些预料结果对实际量刑确定的影响正与日俱增。参见朱奎彬、杨露、蒋罗林：大数据预料功能在‚才智法院建设中的应用，载四川警察学院学报2018 年第 30 期。9‚假释。预料模型也在评估假释的适当性方面得到了运用。早在 20 世纪 20 年头，计算机和大型数据库问世之前，就有社会学家和心理学家对大量假释人员进行自然试验，探讨未能胜利假释人员以及假释后重新犯罪人员的共同特征。而司法人员也以此为依据，评估囚犯的累犯风险，从而作出是否予以假释的推断。随着大数据的发展，依托大数据预料功能，美国司法领域兴起了一种更为科学、精确的预料模型，该种模型考虑了个体不同因素，从犯罪史和教化程度到酗酒和对判刑的看法更为全面地评估了假释人员的各方面状况。法院、监狱和假释委员会通常运用这些预料结果来确定犯人在监狱中须要何种程度的监管，是否应当假释，以及假如获得假释是否应当附加某些限制措施。参见朱奎彬、杨露、蒋罗林：大数据预料功能在‚才智法院建设中的应用，载四川警察学院学报2018 年第 30 期。10‚在美国法律人工智能领域，引起最为广泛探讨的问题聚焦于模型在刑事诉讼程序中的应用。在刑事诉讼程序中，模型已经被大量运用于预料个体是否会再次犯罪、是否会在开庭日出庭等的可能性，从而影响关于保释、量刑和假释的确定。早在几年前，美国就开发了 COMPAS、PSA 和 LSI-R 三种主要的风险评估软件。目前，美国已有一半以上的州利用这些软件来协助法官量刑。其中，一些州运用模型来辨别哪些在押人员会在被释后再次犯罪，从而降低累犯率。而鉴于美国远高于世界平均水平的被羁押率，实务界同时希望在 AI 的帮助下通过更精确的风险评估来降低羁押率。另一些州则干脆依靠软件作出量刑。因此法律AI 的预料功能对美国法律界尤为重要。参见李本：美国司法实践中的人工智能：问题与挑战，载中国法律评论2018年第 2 期。11‚在美国法律人工智能领域，引起最为广泛探讨的问题聚焦于模型在刑事诉讼程序中的应用。在刑事诉讼程序中，模型已经被大量运用于预料个体是否会再次犯罪、是否会在开庭日出庭等的可能性，从而影响关于保释、量刑和假释的确定。早在几年前，美国就开发了 COMPAS、PSA 和 LSI-R 三种主要的风险评估软件。目前，美国已有一半以上的州利用这些软件来协助法官量刑。其中，一些州运用模型来辨别哪些在押人员会在被释后再次犯罪，从而降低累犯率。而鉴于美国远高于世界平均水平的被羁押率，实务界同时希望在 AI 的帮助下通过更精确的风险评估来降低羁押率。另一些州则干脆依靠软件作出量刑。因此法律AI 的预料功能对美国法律界尤为重要。参见李本：美国司法实践中的人工智能：问题与挑战，载中国法律评论2018年第 2 期。12参见政府网站 Legifrance.fr，一些行政判例法也已可以在 data.gout.fr 网站上下载。13图片源自 EUROPEAN COMMISSION FOR THE EFFICIENCY OF JUSTICE（CEPEJ），European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment，page 21（figure 1），最终访问日期：2020 年4 月 13 日。14相关的规则也规定，对于将被公布的司法行政裁判，只有在对涉及的人员被重新识别出的风险进行分析后，该等司法行政裁判才能被公布。15齐凯悦：‚互联网+时代英国的家事审判改革及对我国的借鉴与启示，载四川理工学院学报2017 年第 32 卷第 2期。16Checkpoint programme webpage，Durham Constabulary，Accessed January 19，2020. x. 题 （一）司法判决的数据开放引发的伦理问题在大数据时代，对于公开的司法判决，司法机构往往为了在司法判决公开和对当事人、证人基本权利的敬重之间达到平衡，禁止在公开文件中出现当事人与证人的姓名与地址。司法机构尤其担忧这些个人信息及可能存在于判决内的类似特殊敏感的信息被滥用、重新运用的风险。目前普遍的做法是利用自动处理系统对当事人和证人的姓名、地址、电话号码、电子邮箱等可识别信息进行模糊化处理。从个人数据爱护的角度来看，这种处理相当于一种简洁的假名化处理，而非完全的匿名化。因为法院判决中包含的信息数量与种类之多，加上与其他数据库之间越来越多的相互参照引用，这使实践中不行能确保被隐藏者不被重新识别和确认。对于案件中涉及的一些特殊敏感的私人数据，如民族、种族、政治观点、工会会员身份、宗教、生理或心理疾病和性生活等，这些信息的大规模传播将会带来卑视、画像、对个人尊严的侵害等严峻的伦理风险。除了对当事人与证人的个人隐私会产生风险外，对于公开判决中的专业人员的隐私爱护就存在更大的风险了。我们知道，公布作出详细判决的专业人员姓名是司法公正的基本要求，如欧洲人权公约第 6 条第（1）节关于公开审判的规定：为确保法官遵守客观公正的原则和法定的程序规则，经合法任命和指派的法官必需可分辨，在司法判决中公开法官姓名是各成员国的义务。而对于律师而言，他们认为了解审案的法官有时与了解法律同样重要。长期以来，他们始终或多或少地从阅历主义角度动身，尝试在不同的合议庭之间作出对比，以便更好地赐予与某个特定法官打交道的当事人以建议。在人工智能技术成熟后，我们不能解除这种可能，即律所为了能预料判决结果而企图将公开判决中的法官数据与数据库中的其他数据（如法官在社交网络、商业网站等的数据）相互参照来识别出假定的政治、宗教和其他偏见，以此试图预料判决结果并选择诉讼策略。这往往就会造成对判决中专业人员的隐私与人格尊严的严峻侵扰。除此之外，这种预料性判例分析软件还会破坏法律所确立的公正审判原则。因为律所能够通过对公共和私人数据的交叉引用来剖析法官的个人画像，这就能帮助企业或他们的律师进行更严峻的择地诉讼。长期以来，这个策略已经在美国和法国的与新闻出版有关的犯罪和违反隐私的案件中屡屡出现，这些案件中的原告已经知道要去选择有可能判决支付更高金额的损害赔偿金和利息的法院了。题 （二）人工智能中机器学习算法在司法领域带来的伦理问题人工智能在司法领域的应用步骤可以概括为：将开放的司法数据通过自然语言处理后，输入至机器学习的算法之中，然后得出一种或多种用于预料或预见案件胜诉或败诉可能性的模型。在通常状况下，这个算法的目标并非复现法律推理（Legal Reasoning）而是找寻判决中各个参数间的相关性（例如，算法对一个离婚案件的分析就会以婚姻的时间长度、是否存在通奸等行为、配偶的收入、所主见的可获利益总数等参数为基准）。1.险 机器学习算法的本质及风险 以法院裁决为例，司法预料系统是为了让法律部门、保险公司运用以及让律师能够预料诉讼结果而设计的。从理论上来看，它也能帮助法官作出决策。依据用户输入的参数（针对不同类型争议有不同的要素作为参数），该系统声称能比较精准地计算法院可能认定的赔偿数额。而这种司法预料软件的运作逻辑本质上是基于生成性（通常称为贝叶斯）或辨别性的方法，这些方法最终试图通过分析过去的例子来估计当前或将来的一系列变量的取值范围（如审判的结果）。人工智能在司法领域的应用并非如科幻文学中对人工智能的描述：人工智能的机器学习算法并不能产生智能，而仅是以一种自动化的方式用多种预设配置将一组观测值（输入值）与一组可能结果（输出值）关联起来。详细来说，对于司法预料，机器学习在组成司法判决的不同词汇组之间构建链接。这些链接起来的词汇组是由在输入阶段识别的组（事实和推理）和在输出阶段识别的组（表决的执行部分）相互关联，然后进行分类得出的。因此，通过机器学习构建起来的模型牢靠性很大程度上取决于所运用数据的质量和对机器学习技术的选择。机器学习过程中并不会复制或模拟人类的推理，而仅仅是让机器自己识别数据中现有的统计模型，并将它们与特定的结果进行匹配。其基本原理近似目前的机器翻译系统，机器翻译并不会进行抽象的推理，它们仅在一组词汇结构和已经完成的译文之间对最佳匹配作出可能的估计值。用户的行为明显有助于匹配检索的提高改进，但是机器学习算法并不是通过理解所处理的句子的意思来进行翻译的。详细到司法预料软件来说，律师与法官面对已有的案例，会寻求理解在先规则的有效性，而编写机器学习算法的探讨人员却只能透过其科学语言来寻求这种规则，且有时仅限于说明来自机器学习系统的数千个参数。目前，机器学习中最精彩的是类型强化学习，即在给定的环境中，如行为产生了预期的结果，那机器就能获得虚拟的嘉奖。这种技术已经在 IBM Watson 的虚拟律师系统罗斯（ROSS）中得到了应用。然而，目前的这些算法仍旧高度专注于一项特定的任务，当面对混乱的状况或数据不足时，它们会出现识别问题。在法律和司法所属的社会科学里，尚未有令人信服的认知模式可供人工智能借鉴，因此目前人工智能不行能取代法官。用皮埃尔列维（Pierre Levy）的话来说，机器学习算法事实上满意于供应异构的工具箱（逻辑规则、形式语法、统计方法、神经或社会生物学模拟等），但无法为人类认知的数学建模问题供应一个通用的解决方案。17因此，真正的预料学习在现实中应当建立在对世界的良好系统性呈现的基础上，这是一个基础科学和数学问题，而并非技术问题。此外，目前的大数据处理算法并不是要复制我们的认知模型，而是对宏大规模的数据进行上下文统计（Context Statistics），因此，其并不能真正保证能解除错误的相关性。因为法律中的因果关系并非等同于数据统计得出的相关关系。虽然人们普遍认为，统计模型和概率模型是通过增加数据输入来完善的，但一些数学家也警示了在大数据中上升的错误相关性（因素之间的联系肯定没有因果关系）的风险。18对于机器学习算法（不同数据、概念、上下文或词汇组之间的重复链接）来说，可能出现的规则事实上是随机的，在某些数量、点或对象的浩大集合中，会出现规则的随机模式，而且好像不行能从算法上将它们与揭示因果关系的模式区分开来。19不管机器学习算法目前的困难程度如何，它们仍旧是建立在学习阶段及其过往的相互作用。所以，在训练算法时运用的数据流的内容和质量，对于理解其算法得出的结果和确定可能的分析偏差是至关重要的。在这个方面，我们照旧面临很多挑战，因为如以穷举的方式分析与一项活动有关的尽可能多的数据，其所产生的结果的意义必需通过对全部产生影响的因素加以考量来澄清。在一个更严格视角来看，我们在采样时选择一个数据而不是另一个数据时的权衡偏差也会带来伦理风险。2.题 算法卑视问题 司法领域中的算法卑视问题因广泛关注美国案例 State v.Loomis 案而被重视，本案引起争议的人工智能系统是美国在刑事司法领域中应用于人身危急性评估的 COMPAS 系统。2013 年 8 月 14 日，美国威斯康星州法院依据 COMPAS 系统对 Eric Loomis 进行量刑，罪犯最终被判处六年有期徒刑，缓刑五年执行。在 Loomis 的判决中，巡回法院把 Loomis 的 COMPAS 评估作为确定 Loomis 判决时的几个因素之一，作为对判决的说明的一部分，巡回法院指出：通过 COMPAS 的评估，您被确定为对社区具有高风险的个人，在权衡各种因素后，由于您犯罪的严峻性以及你的犯罪历史、被监督历史以及风险评估工具得出的风险指标，我们解除缓刑的适用，因为你有特别高的重新犯罪风险。Eric Loomis 对这个判决结果表示不服并提起上诉，Loomis 辩称，判决法院对 COMPAS 评估的依靠违反了他的正值程序权利，缘由有以下几个。其一，S COMPAS 评估系统的透亮度问题。Loomis 用专家证词证明白开发和拥有 COMPAS 的公司保留了产生评估分数的算法程序的专有权，因此，Loomis 辩称，当巡回法院依据 COMPAS 评估作出判决确定时，法院依靠了隐私的不透亮程序。对此，政府好像并不质疑 Loomis 对证据的描述，相反，法院的立场是，法官可以利用 COMPAS 等基于证据的工具作出更好的判决确定，而 Loomis 的证据从表面上看，未能证明 COMPAS评估包含或产生不精确的信息。其二，S COMPAS 评估系统涉及性别卑视。在 State v.Harris 案中，美国最高法院指出种族和性别是法官判决时依靠的不正值因素，即被告有正值程序权利，不得因种族或性别而被判刑。Loomis 辩称，COMPAS评估系统中涉及性别这一因素，因此，法官依靠 COMPAS 系统得出的结论侵扰了其正值程序权利。对此，政府再一次没有质疑 Loomis 提交的证据要点，他们称：依据 Loomis 提交的证据，我们的理解是，COMPAS评估包括对男性和女性进行的一般量表，以及仅对女性进行的单独量表。我们承认 COMPAS 具有不同的自动风险和针对女性罪犯的需求评估，据我们所知，量表因性别而异的事实意味着全部其他事实相同男性和女性的评估结果将因性别而异。但示意有两种不同的风险等级并不意味着 COMPAS 评估不恰当地考虑性别。政府进一步提出：Loomis 没有说明两种不同的评估体系是如何工作的。据巡回法院的调查，COMPAS 评估用于整个威斯康星州以及其他司法管辖区的惩教目的，威斯康星州的法官均接受了关于 COMPAS 在量刑中运用的培训。正如我们在 Samsa 中引用的报告中所总结的那样，COMPAS 评估包括风险部分和需求部分：COMPAS 是威斯康星州惩教部门运用的风险和需求评估工具，用于识别罪犯的风险以及他或她的治疗和程序需求。风险等级（低、中或高）旨在帮助惩戒专业人员确定罪犯所需的监督水平。犯罪因素须要量表，旨在突出罪犯可能须要惩教措施（治疗和程序）的区域。该案上诉最终没有胜利。美国一个非政府组织 Propublica 调查了 COMPAS 系统的算法卑视问题。依据调查，这个系统算法是由一家私人公司研发的，软件包括了 137 个由被告回答的问题或者从其犯罪记录中提取的信息。这些问题的种类许多，包括家里是否有电话、支付账单的困难程度、家族史、被告的犯罪史等。Propublica 发觉该系统中非裔美国人简单被认定为重复犯罪的高危人群，这可能是用于训练系统的数据造成的。注 释 17 法皮埃尔列维：人工智能与人文科学，载皮埃尔列维的博客，最终访问日期：2017 年 11 月 30 日。18 新西兰数学家克里斯蒂安索林卡卢德（Cristian Sorin Calude）和意大利数学家朱塞佩隆戈（Giuseppe Longo）指出了在大数据中的错误相关性泛滥的风险：用于相关性的数据库越大，发觉重复模式的概率就越大，出错的概率也就越大。19 ‚Ramsey理论，Ronald L.Graham，Joel H.Spencer-‚Ramsey 理论， 科学美国人，Vol.263，1 号，1990 年第 112-117页。法律实证主义为人工智能算法模拟法律推理供应了有力的支持。法律实证主义者认为，数学化的科学中所运用的方法具有某种内在的优点，法学若能加以效仿，接受这些方法作为它们的典范，就能取得不前不后的胜利。这种尝试本身是无害的，尤其是当他们无法取得预期的胜利后，它们便会自然消逝。如沃格林在其新政治科学中谈到的那样，实证主义真正对社会科学的毁灭性在于它将自然科学的方法当作了推断理论之相干性（relevance）的标准。20但是，已有的法律实践并不支持人工智能算法模拟法律推理。1804 年法国民法典中存在一系列意义未定的规则。法学家哈特（Herbert L.A.Hart）在其法律的概念中称为法律的开放结构。在一般法系，恰恰是因其动态地不断适应新的法律须要而被认为更有效。现实生活中对法律，并非如法律实证主义者所假定的一般精准。在司法实践中，法官面对困难案件时在案件中相关事实和可适用的法律规则（呈现为文本或判例）之间反复进行评估和说明，是作出公正判决的前提。让法律实证主义者更难于面对的是司法中的价值推断。面对困难案件，司法裁量往往须要对相关事实的证明标准、应适用哪条规则等给出特定的指令。在一系列相互冲突的可适用法律中，哪一个应当占主导，也不得不诉诸价值推断。这恰恰是目前机器学习算法所没有做，也不试图去做的。人工智能因无法进行价值推断而不能取代法官进行司法裁判，那人工智能对于司法的价值在哪？若我们无法从法理上论证人工智能司法的正值性基础，那么即使有权机关作出政治确定，以人工智能技术协助法官进行司法裁判，这种确定也将面临巨大的正值性质疑。在论证人工智能司法的正值性问题上，以司法裁判的可接受性与融贯性标准进行论证是目前学者的主要视角。例如，尤金沃洛克（Eugene Volokh）教授在机器人首席大法官一文中指出，应当以可接受性与劝服性的标准比较人工智能审判是否优于法官审判，而不是以司法的正确性标准或客观性标准进行比较。司法裁判本身并不存在所谓肯定正确的答案，也没有客观标准来对不同的裁判进行比较，但人们可以基于哪一种司法裁判和法理说理更能让当事人与公众接受来进行对比。沃洛克教授提出的亨利测试（John Henry Test）便是基于此绽开的：当人工智能法官的裁判能比平均水平的法官得出更能被接受与更具劝服力的裁判文书时，就可认为人工智能法官通过了测试，具有了代替法官裁判的正值性。21在此必需指出，尤金沃洛克教授所谓的人工智能法官应当属于目前远未达到的强人工智能，但目前的人工智能均属于弱人工智能的范畴，而且我们在上文论证过，以目前的机器学习算法，人工智能是无法进行法理推理的。22因此，我们须要对沃洛克教授的论证进行修订，即只需由人工智能协助的法官能比其单独得出更有劝服力与更能被接受的裁判文书时，我们就应当认定人工智能司法具有正值性。例如，目前的人工智能已经被用于法律数据库系统，它可以帮助收集相关案例、提出与本案相像性或差异性的建议，帮法官起草判决初稿，这将为法官的司法裁判供应有益的协助，帮助法官得出更具有劝服力的判决。详细来说，人工智能在协助法官方面能有以下几点价值：· 第一，人工智能可以让法官对相应法律问题有一个更为完整的视角。虽然人工智能无法代替法官进行价值推断，但其对于相关法律法规与以往案例的汇总可以拓展法官的视野边界，使法官能以更加周全的方式考虑案件。· 其次，人工智能可以促进司法裁判标准的融贯性。目前的司法系统经常会面临着由于地域差异导致的同案不同判，而人工智能司法协助系统能让法官的信息收集更加高效与流通，能让其在作出判决时参考其他法院的已有判决，并对差异点作出正值性论证，削减因同案不同判导致的司法权威减弱的影响。23· 第三，人工智能可以让法官的裁判更加高效，进而促进法官将更多时间与精力放在法律论证之上。人工智能在相关信息的筛选与文书格式的生成方面比法官更加高效，这让法官在找寻相关法律法规、司法说明、立法说明、相像案件季节约大量时间，避开法官在浩瀚的信息之中奢侈太多精力与时间。· 第四，人工智能有助于法官对其判决的社会影响有一个预估。虽然以结果为导向的司法裁判受到了一些学者的指责。24但人工智能司法协助系统的裁判影响评估可以让法官对其预作出的判决有一个较为客观的认知，这也能让法官对其自身的预判决有一个反思与斟酌的空间，促进其得出符合其价值导向的可接受判决。注 释 20 参见美埃里克沃格林：新政治科学，段保良译，商务印书馆 2018 年版，第 10-19 页。