可信赖AI司法意义和挑战及治理应对.docx
《可信赖AI司法意义和挑战及治理应对.docx》由会员分享,可在线阅读,更多相关《可信赖AI司法意义和挑战及治理应对.docx(37页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、可信赖AI司法意义和挑战及治理应对 可信任 AI 司法的意义和挑战及治理应对 摘 要 : 自 11010 年 美 国 学 者 布 坎 南 和 海 德 里 克 关 于 人 工 智 能 和 法 律 推 理 若 干 问 题 的 考 察 一 文 发表 以 来 , 学 术 界 对 AI 进 行 法 律 推 理 进 行 了 广 泛 的 探 讨 , 一 方 面 确定 了 AI 在 法 律 适 用 中 的 潜 能 ,另 一 方 面 又 对 AI 处 理 复 杂 法 律 问 题的 能 力 提 出 了 质 疑 。 从 现 有 技 术 发 展 看 , AI 已 初 步 具 备 法 律 推 理的 功 能 , 并 开
2、始 在 实 践 中 用 来 辅 助 法 官 判 案 。 然 而 , AI 技 术 本 身仍 面 临 诸 多 挑 战 ,尤 其 是 算 法 歧 视 、算 法 黑 箱 的 存 在 ,为 可 信 任 的AI 蒙 上 了 阴 影 。 为 建 立 可 信 赖 的 AI 司 法 系 统 , 应 从 技 术 保 证 、 制度 保 障 、审 判 框 架 设 置 等 方 面 出 发 ,通 过 透 明 性 、可 解 释 性 等 原 则要 求 ,采 取 算 法 审 计 、赋 予 法 官 监 督 权 、当 事 人 抗 辩 权 、法 律 与 技术 的 互 动 等 诸 多 手 段 , 实 现 AI 司 法 的 有 效 、
3、 可 信 治 理 。 关 键 词 : 可 信 任 人 工 智 能 ; 法 律 适 用 ; 算 法 歧 视 ; 算 法 黑 箱 目 次 一、问题的提出 二、AI 的司法运用 三、AI 司法的挑战 四、可信任 AI 司法的构建 一 、 问 题 的 提 出 AI在 执 行 特 定 任 务 ,尤 其 是 处 理 海 量 数 据 方 面 ,不 但 具 备 了技 术 上 的 可 能 , 而 且 在 实 际 效 果 上 也 已 经 超 越 了 人 类 。 信 息 搜 集 、算 法 运 算 、 形 成 结 果 、 执 行 任 务 , 是 AI 的 一 般 运 作 模 式 , 涉 及 到大 数 据 挖 掘 与
4、分 析 理 论 、自 然 语 言 处 理 理 论 、深 度 学 习 理 论 等 复 杂的 问 题 。 从 发 展 趋 势 看 , AI 从 擅 长 单 个 方 面 , 例 如 语 音 识 别 、 图像 识 别 和 翻 译 等 ,逐 步 发 展 至 可 以 进 行 思 考 、计 划 、抽 象 思 维 、理解 复 杂 理 念 、 从 经 验 中 学 习 。 法 律 实 践 需 要 新 的 思 维 工 具 ,以 应 对 日 益 繁 杂 的 社 会 生 活 法 律关 系 , 卷 帙 浩 繁 的 法 律 文 献 , 爆 发 式 增 长 的 法 律 案 件 。 AI 在 辅 助司 法 裁 判 、促 进 司
5、 法 公 正 、辅 助 法 律 教 育 和 培 训 方 面 都 具 有 重 要 的现 实 意 义 。 从 现 有 的 研 究 来 看 , 关 于 AI 的 法 律 研 究 更 多 集 中 在 隐私 与 数 据 保 护 、 算 法 歧 视 、 知 识 产 权 、 AI 法 律 人 格 等 方 面 , 其 中对 算 法 歧 视 的 讨 论 最 多 。在 应 对 算 法 歧 视 的 对 策 上 ,主 要 从 严 控 数据 质 量 、 透 明 性 、 可 解 释 性 等 方 面 入 手 , 以 规 制 AI 适 用 的 伦 理 逆境 ; 关 于 AI 在 司 法 领 域 的 运 用 及 规 制 讨 论
6、 相 对 较 少 , 且 主 要 在 宏观 角 度 探 讨 人 工 智 能 可 能 对 司 法 裁 判 带 来 的 冲 击 及 原 则 应 对 ,并 未提 出 建 立 可 信 AI 司 法 的 具 体 路 径 。 作 为 AI 在 法 律 行 业 运 用 , AI 司 法 不 但 存 在 着 技 术 挑 战 ,同 样存 在 着 伦 理 困 境 ,面 对 深 度 学 习 、强 化 学 习 带 来 的 不 可 知 性 ,简 单地 建 立 AI 司 法 负 面 清 单 , 排 斥 AI 在 复 杂 案 件 中 的 适 用 , 并 不 能解 决 AI 司 法 过 程 中 可 能 存 在 的 歧 视 、
7、 不 公 平 或 错 误 等 问 题 , 相 反 很 容 易 导 致 放 松 对 人 工 智 能 在 处 理 类 型 化 案 件 时 的 监 督 和 警 觉 ,导致 产 生 不 被 发 现 的 错 误 。 笔 者 认 为 AI 司 法 的 构 建 , 不 但 提 高 法 官审 判 效 率 ,还 有 利 于 法 律 知 识 图 谱 的 构 建 ,促 进 司 法 裁 判 尺 度 的 统一 。 但 如 前 所 述 , 算 法 黑 箱 的 存 在 必 然 引 发 对 AI 司 法 判 决 可 信 赖的 质 疑 。 笔 者 结 合 法 律 适 用 的 具 体 特 点 , 试 图 构 建 AI 司 法 运
8、 用 过程 中 的 信 赖 但 必 须 验 证 的 制 度 规 则 ,通 过 技 术 保 障 、正 当 程 序 要求 等 实 现 可 控 和 可 信 赖 的 AI 司 法 。 二 、 AI 的 司 法 运 用 将 机 器 学 习 诉 诸 法 律 实 践 , 如 证据 发 现 、评 估 ,判 例 分 析 、论 证 挖 掘 、适 用 法 律 分 析 和 定 量 法 律 预料 ,依 赖 多 种 ML 技 术 ,如 自 然 语 言 处 理 ,构 建 输 入与 期 望 的 输 出之 间 关 系 的 算 法模 型 。 可 能 性 基 础 1.基 于 法 律 推 理 自 身 的 特 征 。 尽 管 法 律
9、推 理 并 非 完 全 的线 性 单 调 推 理 ,存 在 着 可 废 止 性 规 则 、可 辩 驳 性 推 理 等 非 经 典 逻 辑 ,但 它 有 相 对 稳 定 的 对 象、相 对 明 确 的 前 提 及 严 格 的 程 序 规 则 , 且 须 得 出 确 定 的 判 决 结 论 ; 法律 推 理 特 别 是 抗 辩 制 审 判 中 的 司 法 推 理 , 为 AI 观 察 思 维 活 动 的 轨迹 提 供 了 可 以 记 录 和 回 放 的 样 本 ; 法 律 知 识 的 长 期 积 累 、 完 备 的 档 案 、丰 富 的 案 例 、为 模 拟 法 律 知 识 的 获 得 、表 达
10、和 应 用 提 供了 丰 富 、 准 确 的 数 据 资 料 。 2.基 于 AI 技 术 的 发 展 。 ML 使 AI 理 解 数 据 , 获 得 信 息 , 具 备归 纳 推 理 和 决 策 能 力 。基 于 神 经 网 络 的 深 度 学 习 、强 化 学 习 技 术 使AI 摆 脱 了 浅 层 学 习 模 型 依 赖 人 工 经 验 的 局 限 ,使 AI 在 多 次 迭 代 中自 主 地 重 新 修 正 算 法 ,具 有 了 人 类 的 自 适 性 、自 组 织 、自 学 习 、迁移 学 习 等 能 力 。深 度 学 习 脱 离 了 传 统 ML 数 据 输 入 、特 征 提 取
11、、特征 选 择 、逻 辑 推 理 、预 测 的 过 程 ,直 接 从 事 物 原 始 特 征 出 发 ,自 动学 习 和 生 成 高 级 的 认 知 结 果 。 ML 算 法 可 以 自 动 检 测 与 过 去 法 律 场 景 相 关 的 数 据 模 式 , 然 后可 以 对 这 些 模 式 进 行 外 推 ,以 预 测 未 来 法 律 场 景 的 结 果。即 使 在 不 理 解 法 律 、学 说 或 政 策 的 潜 在 含 义 和 目 标 的 情 况 下 ,通 过启 发 式 算 法 的 运 用 , AI 也 能 在 法 律 这 样 一 个 抽 象 的 、充 满 不 确 定 性 的 领 域 中
12、 提 供 预 测 性 。 AI+法 律 的 结 合 已 经 催 生 出 辅 助 律 师 工 作 的 人 工 智 能 ROSS,协 助 法 官 评 估 犯 罪 风 险 的 系 统 COM-PAS 等 应 用 。搜 狗 公 司 与 北 京互 联 网 法 院 联 合 发 布 了 全 球 首 个 AI 法 官 ,在 线 为 用 户 提 供 智 能导 诉 服 务 , 未 来 将 实 现 同 当 事 人 智 能 沟 通 , 协 助 法 官 完 成 诉 讼 接待 , 基 于 司 法 大 数 据 的 案 件 审 理 等 。 图 一 : AI 法 律 推 理 的 简 易 流 程 应 用 意 义 1.提 高 司
13、法 工 作 效 率 。 提 高 法 律 检 索 的 准 确 度 。当 法 官 使 用 AI 查 找 相 关 的 法 源 ,并 不 断 将 某 些 文 件 标 记 为 相 关 , AI 就 会 知 道 应 该 寻 找 哪 种 类 型 的文 件 ,以 更 准 确 地 识 别 其 他 相 关 文 件 ,既 避 免 法 官 在 找 法 过 程 中 的遗 漏 , 又 避 免 无 关 法 律 条 款 的 干 扰 , 大 大 简 化 了 法 官 找 法 的 过 程 。此 外 , 计 算 机 强 大 的 运 用 能 力 极 大 的 缩 短 了 找 法 的 过 程 , Ross Intelligence 在 一
14、 瞬 间 搜 集 到 的 类 似 的 案 例 几 乎 与 人 工 在 10 小 时内 工 作 的 案 例 相 同 。 提 高 文 档 管 理 效 率 。通 过 ML, AI 擅 长 找 出 符 合 人 类 定 义标 准 的 项 目 , 并 且 可 以 发 现 数 据 中 的 模 式 已 执 行 搜 索 和 找 到 类 型 任 务 。 ML 算 法 基 于 文 档 文 本 和 其 他 文 档 特 征 ,自 动 将 给 定 的 文 档 分 类 为 特 定 的 预 定 义 类 别 。例 如 ,与诉 讼 有 关 的 核 心 文 件 , 包 括 起 诉 状 、 证 据 、 法 院 的 裁 定 和 判 决
15、 等 。AI 可 以 将 相 关 文 档 自 动 识 别 为 起 诉 状 证 据 或 判 决 , 并 自 动 生成 规 范 化 的 、可 阅 读 的 电 子 卷 宗 文 档 材 料 ,以 使 法 官 更 容 易 地 找 到重 要 的 案 卷 文 件。斯 坦 福 知 识 产 权 诉 讼 清 算 所 采 用 了 类 似 的 ML 技 术 , 以 自 动 分 类 繁 冗 复 杂 的 案 件 文 件 , 简 化 了 法 庭 查 找 关 键文 件 的 难 度 。 提 高 证 据 审 查 效 率 。 在 特 定 类 型 的 案 件 中 , 法 官 往 往 要审 查 大 量 的 书 面 证 据 ,而 只 有
16、 极 少 数 关 键 证 据 与 案 件 处 理 有 关 。机器 算 法 可 以 根 据 与 特 定 问 题 相 关 性 的 大 小对 文 档 进 行 分 类 ,找 到 那 些 与 该 问 题 实 际 相 关 的 少 数文 档 。 在 达 席 尔 瓦 摩 尔 诉 阳 狮 集 团 案 中 , 被 告 提 供 的 电 子 证 据 多 达 300 万 份 , 主 审 裁 判 法官 佩 克 同 意 采 用 预 测 编 码 为 一 种 文 件 审 查 方 法 ,从 大 量 文 件 中 剔 除不 相 关 的 文 件 , 作 为 双 方 电 子 证 据 开 示 协 议 的 一 部 分 。 2.帮 助 进 行
17、 法 律 分 析 。 AI 可 以 对 合 同 进 行 分 析 , 并 通 过 预 先设 定 的 条 件 和 变 量 清 单 ,确 定 哪 些 条 款 和 变 体 存 在 和 缺 失 。在 摩 根大 通 ,一 个 名 为 coin 的 AI 驱 动 程 序 被 用 于 解 释 商 业 贷 款 协 议 。基拉 系 统 公 司 提 供 的 AI 平 台 , 可 以 识 别 、 提 取 和分 析 合 同 中 包 含 的 业 务 信 息 ,可 以 为 并 购 尽 职 调 查 创 建 合 同 摘 要 图表 。 劳 杰 克 斯 公 司 使 用 的 AI 能 识 别 出 合 同 中 哪 些 条款 存 在 漏
18、 洞 , 以 供 律 师 进 一 步 审 查 和 修 订 。 图 二 : AI 进 行 文 件 分 类 和 自 动 编 目 的 过 程 3.预 测 判 决 结 果 。目 前 法 律 工 作 者 通 过 运 用 专 业 知 识 、经 验 等认 知 技 能 和 直 觉 对 案 件 的 审 判 结 果 进 行 评 估 。基 于 计 算 机 的 自 动 化 分 析 将 会 越 来 越 多 的 介 入 到 法 律 结 果 的 预 测 中 。 AI 通 过 数 据 挖 掘可 以 获 得 海 量 数 据 , 在 预 测 法 律 纠 纷 和 诉 讼 结 果 上 可 能 比 人 类 更好 。 在 200 年 的
19、 美 国 最 高 法 院 判 决 记 录 的 训 练 下 , AI 已 经 比 许 多人 类 专 家 更 好 地 预 测 美 国 最 高 人 民 法 院 的 判 决 。 监 督 学 习 技 术 的 应 用 , 使 AI 可 以 通 过 人 类 对 数 据 的 标 注 , 找出 数 据 之 间 的 关 联 关 系 。在 司 法 实 践 中 ,同 类 案 例 本 身 就 构 成 了 可供 训 练 AI 的 数 据 集 ,在 学 习 足 够 多 的 案 例 后 , AI 可 以 从 案 例 中 识别 出 自 变 量 如 主 体 身 份 、行 为 类 型 、损 害 结 果 等 与 因 变 量 判 决
20、结 果之 间 的 涵 摄 关 系 ,并 结 合 法 律 规 则 等 构 建 起 预 测 案 件 结 果 的 算 法 模型 。当 同 类 案 件 信 息 输 入 AI 时 ,AI 将 基 于 预 测 模 型 自 动 得 出 裁 判结 果 。 图 三 : 以 抢 劫 罪 为 例 的 AI 裁 判 流 程 4.有 利 于 实 现 同 案 同 判 。 法 官 在 判 决 书 中 需 要 详 细 引 用 法 律 、事 实 、公 共 政 策 及 其 他 考 量 因 素 以 作 为 判 决 正 当 化 的 理 由 。法 官 不应 依 据 判 决 载 明 以 外 的 理 由 裁 决 案 件 。然 而 ,在 有
21、 些 案 件 当 中 ,法官 往 往 考 虑 判 决 书 阐 明 理 由 以 外 的 因 素 而 做 出 与 类 案 不 同 的 判 决 ,例 如 ,基 于 原 、被 告 的 身 份 ,社 会 舆 论 压 力 等 。美 国 的 一 项 研 究 表明 ,在 影 响 案 件 判 决 结 果 的 因 素 中 ,联 邦 巡 回 法 庭 自 身 就 举 足 轻 重 ,即 便 是 同 类 案 件 ,不 同 的 巡 回 法 院 却 极 有 可 能 做 出 不 同 的 裁 决 。在后 果 主 义 的 司 法 裁 判 中 ,例 如 于 欢 案 、江 苏 龙 哥 反 杀 案 ,基 于 舆 论的 社 会 压 力 ,
22、或 者 基 于 社 会 效 果 的 考 量 ,法 官 往 往 做 出 类 案 异 判 的 裁 决 ,即 便 判 决 结 果 是 正 当 的 ,由 于 判 决 书 本 身 并 未 阐 明 法 外 因 素对 判 决 结 果 的 影 响 ,势 必 带 来 对 判 决 合 理 性 的 怀 疑 。由 于 ML 算 法能 够 很 好 地 检 测 出 案 例 中 某 些 变 量 与 特 定 法 律 结 果 之 间 的 模 糊 关联 。 如 果 AI 提 供 证 据 表 明 法 官 的 判 决 不 是 基 于 他 们 所 明 确 陈 述 的理 由 ,而 是 基 于 其 他 考 量 ,法 官 必 须 作 出 合
23、 理 的 解 释 。从 另 一 个 层面 来 讲 , AI 基 于 同 一 套 算 法 模 型 作 出 裁 决 , 在 案 件 情 况 相 同 或 类似 的 情 况 下 也 即 输 入 相 似 的 情 况 下 , 会 得 到 相 同 的 输 出 。 三 、 AI 司 法 的 挑 战 AI 司 法 的 核 心 挑 战 在 于 是 否 可 信 赖 。 欧 洲 AI 道 德 准 测 对 可 信 赖 AI提 出 了 一 个 官 方 解 释 ,首 先 ,它 应 该 尊 重 基 本 权 利 、规 章 制 度 、核心 原 则 及 价 值 观 ,以 确 保 道 德 目 的 ,其 次 ,它 应 该 在 技 术
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 可信赖 AI 司法 意义 挑战 治理 应对
限制150内