2022年人工智能行业之AI伦理道德方略.docx

2022年人工智能行业之Al伦理道德方略1.推进可信赖的人工智能迫在眉睫只需浏览头条新闻，企业领导即可知道，面临各种社会、 环境和政治问题的公司比比皆是。客户、员工甚至股东会更频繁地要求组织不仅对当前关 注的问题采取有原那么的立场，而且还要采取有意义的行动来 实现明确的结果。（参见观点”如果正确行事，做得好的公司 可以做得更好。”）今天的高管越来越受到这些力量的影响， 其中许多要求超出了高管通常的舒适区。事实上，近60%的 人表示，近期的社会和经济动乱预计将影响更广泛的社会契约。 1正如IBM商业价值研究院（IBV）在2018年进行的一项调查 中首次研究的那样，此类动乱涉及到了人工智能和数据领域对于普通人群来说，不可信人工智能的定义可能很明显: 歧视、不透明、滥用以及其他方面未能到达普遍的信任预期。 然而，推进值得信赖的人工智能仍然具有挑战性，因为有时 需要采取务实的平衡行动，例如，“可解释性”（理解人工智能 算法结果背后的基本原理的能力）与“稳健性”（算法得出结 果的准确性）之间的平衡。如果不解决这些权衡问题和其他 伦理问题，组织就不能再采用人工智能。他们唯一的问题在28同样，我们在研究中发现，75%的高管将伦理视为差异化 竞争的来源。同样比例的高管在人工智能领域，将优势转化 为业务合作伙伴和供应商选择的务实决策标准。超过一半的 人愿意为他们认为合乎伦理的公司支付溢价。组织在这个问题上相对于其同行的定位似乎主要受两个 因素的推动：（1）人工智能的重要性，以及（2）人工智能 中伦理的重要性。我们发现，根据他们的评估，将人工智能视为对其业务 战略重要的组织，其人工智能计划的效率提高了 1.5倍。他 们的人工智能工程的投资回报率也提高了 2倍（相对于那些 认为人工智能不那么重要的公司）。人工智能的战略重要性 也与公司范围内更高收入增长和更大盈利能力相对应。此外, 那些更重视人工智能伦理的组织报告说，他们也得到了客户 和员工的更大程度的信任。因此，在务实行动的支持下，战 略意图可以帮助企业从人工智能中实现更大的商业价值。然 而，组织当如何应对？将人工智能视为对其业务战略重要的公司报告称，与那 些认为人工智能不那么重要的公司相比，他们的人工智能项 目实现了 2倍的投资回报率。图5显示，目前认为人工智能和人工智能伦理不太重要 的人预计将在未来3年内移动到右上象限，在此象限中，具有前瞻性的接纳者正在推动领先实践并产生更大的影响。根 据高管的明确意图，该细分市场中的组织数量预计将在该时 间段内翻倍。我们认为左上象限（在此象限中，人们认为人工智能很 重要，但人工智能伦理不那么重要的位置）是不可持续的， 特别是考虑到本报告前面提到的消费者、公民、投资者和员 工动态。组织付不起不致力于人工智能伦理的代价。正如社 交媒体创造了一个记录青少年弱点的世界一样，企业正在创 建他们行为的历史记录，以供合作伙伴和潜在员工评估现在 和未来。齐心协力（以及对能力的投资）可以帮助组织走向 更有活力的位置。正如许多先前的研究说明的那样，这项研究是另一个示 例，说明财务绩效的提高与人工智能的战略性和有效使用相 关。29现在看来，这种关系也适用于以合乎伦理的方式采用 人工智能的深思熟虑且稳健的方法。这可能就是为什么一些 将人工智能和人工智能伦理作为其业务战略核心的公司正在 努力在组织内扩展此项实践的原因。（请参阅第16页的观点 “领先实践：负责任地使用技术”。）4.迎接当下：将学术理想应用于现实世界的行动随着组织启动他们的人工智能伦理计划，他们可从丰富 的资源中受益。人工智能伦理领域（最初在跨学科研究环境中进行研究）提供了许多建设性的框架、资产和关联以供使 用（见图7）。即使是大学也成认，他们的目标一直是让学术研究和抽 象概念找到实用的途径，而不仅仅是在计算机科学领域。“人 工智能伦理不能在扶手椅上完成，“Leverhulme未来智能中心 主任兼剑桥大学哲学系高级研究员Stephen Cave成认。33他 所在的大学从2021年开始试行定制研究生学位以帮助培养下 一代人工智能伦理学家。一些大学已经创立了具有类似重点的研究所（例如，牛 津大学的人工智能伦理研究所）。为其他教育环境中的学生 开设的相关课程也在增加。布鲁金斯学会和未来隐私论坛之 类的智库；IEEE等专业组织；美国国家标准与技术研究院之 类的非监管政府机构；WEF、全球人工智能伙伴关系和人工 智能伙伴关系之类的跨行业组织也一直处于人工智能伦理的 最前沿，并创造了有用的资源。其他基层合作（例如，美国 全球服务管理局的技术转型服务）也不断做出积极贡献。组织领导现在可以利用这些进步来帮助在那些需要协同 工作的企业职能中实施人工智能伦理规范。最终，这些工具 可以帮助推进值得信赖的人工智能的交付。实施这种人工智 能伦理方法还可以表现出组织在负责任地使用技术以实现竞 争优势、可持续创新甚至社会正义目标方面所做的努力。事实上，我们的研究揭示出相关的联系：超过67%的组 织认为人工智能和人工智能伦理很重要，他们还表示他们在 可持续性、社会责任、多样性和包容性方面的表现优于同行。 “对于荷兰政府机构来说，负责任地应用算法至关重要，”荷 兰企业机构RVO的首席信息官Johan Maas指出。“通过使用 整体方法，我们的人工智能不仅为员工提供有关客户补贴申 请的建议，还解释了对其建议很重要的那些参数，这为创立 有效的人机协作奠定了基础。”超过67%的组织认为人工智能和人工智能伦理很重要， 还表示他们在可持续性、社会责任、多样性和包容性方面的 表现优于同行。他还表示：“这符合我们根据平等待遇等原那么开发人工智 能的政策，比方伦理和民主原那么以及透明度。因此，我们增 加了员工和公民对使用人工智能的信任。”34舞台搭建好了。越来越多的企业准备拥抱利益相关者至上的观念。消费者继 续表示他们愿意为可持续的产品支付溢价。许多采购职能越 来越多地将业务责任标准整合到采购决策中。企业伦理和宗 旨被视为差异化因素。许多人都成认人工智能对社会契约的 影响越来越大。通过正式的综合的人工智能伦理方法来构建 值得信赖的人工智能绝不止是崇高抱负。这是战略目标和社 会责任。现在是组织采取更多行动的时候了。于，是否有策略地、有目的地和深思熟虑地面对这些挑战。 广义的技术部门已经迈出了第一步。这些企业包括许多数字 原生代，他们拥有高增长、高利润的平台，这些平台可以补 足以消费者为导向的商业模式的伦理缺失。因此，他们组建 了庞大的团队和多层流程来满足需求，并取得了不同程度的成 功。如果正确行事，做得好的公司可以做得更好公司提高股东价值的传统职权范围越来越窄。媒体放大 了消费者、公民、员工和投资者的更广泛需求，这促使组织 更加关注利益相关者对业务结果所受影响的担忧。这种增长 趋势在IBV的可持续开展研究中有明显反映：两年前，只有8% 的消费者愿意支付超过100%的溢价来支持有理念的品牌。3 最近，有43%的人表示他们愿意支付溢价来支持可持续和对 环境负责的品牌。4近70%的员工表示，他们更有可能接受 他们认为对环境和社会负责的组织的工作机会，类似的动态 会影响员工留存率。5此外，68%的组织客户和62%的员工 表示，他们有能力通过越来越多地表达自己的观点来迫使企 业做出改变。6个人投资者也将可持续性纳入其财务决策。有一半人表 示，公司的倾向变化风险会影响其财务风险。此群体的92% 人预计将在未来12个月内根据环境因素和/或社会责任因素,决定投资、撤资，或游说基金经理改变投资组合。7事实上， 在重新设想传统的股东资本主义以解决对更广泛的利益相关者 来说很重要的道德和伦理问题方面，势头也有所增强。8然而, 这并非采用最新流行咒语一类的简单操作。借助这些市场趋势成功获益的公司，不只将可持续性视 为另一个社会浪潮，更使之成为业务转型的催化剂。惟有如 此，他们才得以在整个企业中努力开展有意义的实践。9做正 确的事，这类企业价值观不仅仅是陈词滥调；它们可以带来 真正的财务价值。身处这种不确定的环境中，其他行业的老牌 企业为了推动盈利增长，不得不在某些业务领域尝试使用人 工智能。对他们而言，更大的难题在于他们通常没有多少资 源可用于处理人工智能引发的伦理问题。组织面临严峻的选择。他们可以紧闭“舱门”，期待消费者、员工和投资者所参 与的这场风暴消退，抑或在更熟悉的监管避风港寻求庇护。 但是，关乎人工智能治理的区域、国家甚至地方法律框架仍 在不断开展。因此，在不确定（和重叠）的监管环境中，以 合规为策略可能更像是一场赌博。不作为的危害可能会持续 增大。反之，组织可以采取战略方法来应对人工智能中的伦 理问题，从而确定方向，并在众多竞争对手中脱颖而出。他 们在边做边学的过程中，不可防止地要对具体行动方案进行调整。为了解组织在处理人工智能伦理问题并将其纳入业务 实践方面取得的进展，我们在2021年与牛津经济研究院合作， 对22个国家/地区的16个业务和技术职位的1,200名高管进 行了调查。（请参阅第28页的“研究方法和方法论”。）一种有意义的人工智能伦理规范方法可以推进值得信赖 的人工智能。意向和实施之间的差距令人堪忧先，让我们定义人工智能伦理。人工智能伦理被普遍认 为是一个多学科研究领域，旨在通过优先考虑人类能动性和 福祉来优化人工智能的有益影响，同时降低对所有利益相关 者造成不利后果的风险。10有意义的人工智能伦理规范方法 可以导致推进值得信赖的人工智能的结果。在不同的专业领 域，情况大同小异。例如，医学领域致力于改善患者健康， 平安、有效和值得信赖的治疗是实现这些目标的手段。工程 是一门专注于设计和建造物理基础设施的学科，平安可靠的 桥梁、隧道和建筑物是预期的结果。IBV的其他研究说明，消费者、公民和员工将人工智能 视为帮助解决人类面临的最紧迫挑战的顶级技术。11因此， 对人工智能伦理采取严格方法可谓至关重要。此外，超过85% 的受访者表示，组织在解决社会问题的同时解决人工智能伦 理问题是非常重要的。12但是，这些人对银行、零售和保险等传统行业的公司在负责任地使用技术方面打分不高。这些 行业中大多数的评分甚至低于那些经常受到媒体指责的社交 媒体平台的评分（见图1） 13此外，自2018年以来情况一直 没有明显改善，当时40%的消费者相信公司在开发和实施人 工智能等新技术时负责任且合乎伦理，现今各行各业的平均 水平也不过如此。超过85%的受访消费者、公民和员工表示，组织必须 解决人工智能伦理问题。但是，接受本研究调查的高管表示，他们的组织确实认 为人工智能伦理现在比三年前更重要：从我们2018年调查15 中不到一半的受访者增加到2021年的四分之三以上。更具体 地说，他们估计，在此期间，在训练、团队、流程、工具和 其他运营能力方面支持人工智能伦理制度化的支出翻了一番。 他们预测未来三年会有更大的投资。图2意向与行动之间的差距组织已认可人工智能伦理原那么, 但尚在努力实施这些原那么问责制透明度 多样性、不歧视隐私与数据监管人力代理和监督技术稳健性和公平性和平安性环境和社会 福祉那么，如何解释这些高管的观点与他们的客户和员工评 估之间的差异呢？组织为了满足市场预期的紧迫感而增强的愿望似乎超出 了他们将意向迅速付诸实施以安抚利益相关者的能力。虽然 超过一半的组织公开认可了人工智能伦理的共同原那么，但只 有不到四分之一的组织将其付诸实施（见图2）。不到20% 的人强烈同意他们的组织在人工智能伦理方面的实践和行动 符合（或超过）他们既定的原那么和价值观。这证实并量化了 世界经济论坛（WEF）所称的“意向-行动”差距。16不到20%的高管强烈支持他们的人工智能伦理行为符合 或超过其规定的原那么和价值观。缩小这些操作差距至关重要。例如，为了让人工智能变 得更少偏见和更值得信赖，必须实现多样性、非歧视和公平 的伦理原那么。组织认识到这一点的重要性，在2021年的人工 智能工作中提升了此工程的重要性（与2018年相比）。在最 新调查中，几乎所有领导者都认为这是重要的，而将近6倍 的高管认为它“非常重要为解决此问题，从事人工智能伦 理工作的员工应该代表更广泛的受众；但是，人工智能团队 的多样性仍然远低于组织的总员工群体的多样性。我们的结 果显示，人工智能团队中的女性人数比组织中少5.4倍， LGBTQ+人数比组织中少4倍，黑人、原住民和有色人种 （BIPOC）人数比组织中少1.7倍（见图3） o这些差异的根本原因各不相同。但是，我们需要更加积 极和切实地关注改善员工的招聘、雇佣和保存实践，以增加 那些在人工智能设计和实施过程中未被充分代表的声音。这 种强调有助于减轻偏见并建立对人工智能结果的信任。我们 在调查中看到了一些证据，说明这些努力也在经济上得到了 回报。例如，员工与人工智能团队之间性别差距最小的前四 分之一的企业，其人工智能工程的投资回报率更高。为了消 除其他人工智能伦理原那么和实践之间的差异，我们需要做出 具有切实目标和可衡量结果的类似努力。(请参阅案例研究 “Regions Bank：专注于高质量和值得信赖的人工智能)上述愿望和行动之间的差距与公司在环境可持续性方面 的情况极为相似。在最近的IBV研究中，只有35%的组织 实施了他们的可持续开展战略，只有37%的组织将可持续发 展目标与其业务战略保持一致。17只有三分之一的企业将可 持续开展目标和指标整合到他们的业务流程中。18组织和高 管更多地关注将人工智能伦理和其他原那么性优先事项付诸实 践时，他们可以更成功地解决意向与行动之间的差距。2 .巨变：人工智能影响业务主管领导，协作至关重要随着组织努力缩小差距，在过去几年中，关于谁负责带 头开展这项工作的观点发生了巨大变化。2018年，只有15% 的受访者认为非技术高管是人工智能伦理的主要“拥护者”； 19到2021年，80%的受访者会这样认为。公司尤其希望首 席执行官(28%)以及董事会成员(10%)、总法律顾问(10%)、隐私官（8%）和风险与合规官（6%）引领潮流，这一发现在不 同行业或地区没有什么差异（见图4） 0有了这种新的期望, CEO可能会考虑任命一位专门的人工智能伦理主管来分担责 任。20积极计划对受人工智能影响的员工进行再培训和技能重 塑的组织数量从2018年的37%跃升至2021年的55%。对外部人工智能监管法规的预期可能也会提升人工智能 伦理的重要性。74%的组织报告他们所在地区即将出台法规, 64%的组织表示他们已准备好应对这些法规。然而，不管监 管环境的开展方式如何，受访者表示第三方专业机构和其他 非监管团体预计将发挥关键作用，48%的受访者认为这些更 广泛的生态系统的影响和参与是非常重要的。（请参阅案例 研究“加拿大银行财团：共同构建可信数据和人工智能”。） 总体而言，组织参与趋势似乎朝着正确的方向开展。这为公 司以及政府和教育机构提供了动力，可以采取更多措施来实 施人工智能伦理原那么。3 .行动的动力：值得信赖的人工智能可以带来商业价值I伦理从原那么转向实践的商业理由不仅仅是降低下行风 险及满足利益相关者对负责任行事的期望。公司可以实现潜 在的额外收益推进可持续的实践，保护信息质量，拥抱 长期思维而不只顾短期利润，切实增加消费者心目中的信任。