第6章自动驾驶汽车伦理课件.pptx

人工智能伦理导论简明课件莫宏伟 教授手机+微信： 版权所有，禁止与一切教学无关用途。 黑龙江省多学科协同认知人工智能技术与应用重点实验室 主任哈尔滨工程大学智能科学与工程学院第6章自动驾驶汽车伦理第六章 自动驾驶汽车伦理第6章自动驾驶汽车伦理 学习和理解自动驾驶汽车的经典电车伦理问题。 学习和理解自动驾驶汽车责任和安全伦理。 学习和了解自动驾驶汽车的数据伦理问题。学习要点第6章自动驾驶汽车伦理自动驾驶汽车或者智能汽车作为人工智能与汽车技术结合的产物，关键之处在于自动驾驶汽车加载了智能决策系统，一定程度上取代了人类驾驶员的决策。由此导致的交通安全、法律责任以及人机关系等问题必须认真对待。自动驾驶汽车与智能机器人等其他智能机器面临的伦理问题主要区别在于，它们要经常面对生与死的选择和决策。这是本章造成自动驾驶汽车的“电车难题”的根本原因。作为一种特殊的智能机器，自动驾驶汽车的伦理问题的社会实际意义远大于其理论意义。学习导言第6章自动驾驶汽车伦理6.16.1自动驾驶汽车技术自动驾驶汽车技术世界最早的自动驾驶汽车的原型系统第一辆真正的自动化汽车 百度公司研制的无人驾驶汽车自动驾驶汽车定义及其发展历史自动驾驶汽车是自动地面载具的一种，既具有传统汽车的运输能力，又具有超越传统汽车的智能决策能力。与棋艺高超的“阿尔法狗”相比较，自动驾驶汽车的实用性更强，经济效益更为可观，因而最近十年吸引了大批传统企业纷纷投入该类型新产品研发，国内外也涌现出很多无人驾驶汽车技术开发及整车制造的创业企业。第6章自动驾驶汽车伦理智能汽车系统一种不同于机器人的智能机器，人工智能算法及软件技术内嵌于其中并发挥智能决策作用，按照目前的技术水平，主要起到辅助决策作用，还不能完全取代人类驾驶员。自动驾驶系统一般根据国际自动机工程师学会（SAE International）五个不同程度（从驾驶辅助至完全自动化系统）发布一种自动驾驶汽车分类系统，其设计理念根据“谁在做，做什么”的原则进行自动驾驶汽车的等级分类。6.16.1自动驾驶汽车技术自动驾驶汽车技术第6章自动驾驶汽车伦理6.16.1自动驾驶汽车技术自动驾驶汽车技术 SAE分级SAE定义 主 体驾驶操作周边监控支援系统作用域0无自动化由人类驾驶者全权操作汽车，在行驶过程中可以得到警告和保护系统的辅助。人类驾驶者人类驾驶者人类驾驶者无1驾驶支援通过驾驶环境对方向盘和加减速中的一项操作提供驾驶支援，其他的驾驶动作都由人类驾驶进行操作。人类驾驶者 系统 部 分2部分自动化通过驾驶环境对方向盘和加减速中的多项操作提供驾驶支援，其他的驾驶动作都由人类驾驶进行操作。 系 统3有条件自动化由无人驾驶系统完成所有的驾驶操作，根据系统请求，人类驾驶者提供适当的应答。系 统 4高度自动化由无人驾驶系统完成所有的驾驶操作，根据系统请求，人类驾驶者不一定需要对所有的系统请求作出应答，限定道路和环境条件等。系 统 5完全自动化由无人驾驶系统完成所有的驾驶操作，人类驾驶者在可能的情况下接管，在所有的道路和环境条件下驾驶。全 域表1 自动驾驶汽车等级划分第6章自动驾驶汽车伦理自动驾驶汽车的自动驾驶系统是一个具有一定“自主性”的系统。在自动驾驶汽车做出自主性判断之前，决策能力实际上运行了一个隐蔽的“思维过程”，其中不乏利益衡量、路况分析、路程远近等多种因素或情况的考虑。由此使得自动驾驶汽车的内部决策充满了不确定性、不可知性。6.2 6.2 自动驾驶汽车的伦理问题自动驾驶汽车的伦理问题6.2.1 自动驾驶汽车伦理问题的由来第6章自动驾驶汽车伦理自动驾驶汽车面临道德哲学领域中的“经典电车难题”类似的伦理困境。经典电车难题于1967年由哲学家菲利帕福特提出。6.2 6.2 自动驾驶汽车的伦理问题自动驾驶汽车的伦理问题6.2.2 经典电车难题第6章自动驾驶汽车伦理电车难题的自动驾驶汽车版本假设如下场景：一辆自动驾驶汽车在公路上高速行驶，车辆上有五个人，在其后不到100米的地方，有一辆(可能是由一个疯子驾驶的)大卡车高速开过来，自动驾驶汽车必须加速前行，以与大卡车保持安全距离。但是，在自动驾驶车的前面，有一个人正好横穿马路。自动驾驶汽车如果采取制动措施，则被大卡车撞上，车毁人亡；如果加速，则将把行人撞死。自动驾驶汽车里的智能决策系统会选择撞向谁？应该牺牲车内乘客还是路上行人？与传统驾驶模式不同的是，这种选择需要由自动驾驶汽车这种智能机器自行做出。自动驾驶系统的智能决策设计由此可能会陷入无尽的矛盾之中。事实上自动驾驶汽车还有很多类似的伦理难题。6.2 6.2 自动驾驶汽车的伦理问题自动驾驶汽车的伦理问题6.2.3 自动驾驶汽车“电车难题”的功利主义选择第6章自动驾驶汽车伦理 当前自动驾驶路线大多基于统计学习，决策依据更多来自概率而非逻辑模型，决策的信度和效度并不透明，令自动驾驶事故判定变得难度更高。 人工智能技术并不能所有的伦理冲突都转化为合理的经济等价形式去进行价值计算，结果就是，即使在车载计算机中嵌入所有的人类“道德律令”也永远无法满足开放条件下自动驾驶决策需要。 人类伦理的本质是价值的“判断”，而非价值的“计算”。专用人工智能系统没有人类的丰富的伦理经验，无法自主进行价值判断，所以在专用人工智能框架下无法解决自动驾驶汽车的伦理冲突。 自动驾驶汽车的算法、程序中要包含的伦理问题（可以简称为“程序伦理”或“算法伦理”）与“人类伦理”的差别很大。6.3 6.3 算法伦理与人类伦理的冲突算法伦理与人类伦理的冲突第6章自动驾驶汽车伦理厂商掌握着全部汽车事故数据，拒绝公开就形成了“数据壁垒”，使用户在事故调查中处于不利地位。在类似的事故发生后，自动驾驶车企必须形成自我约束，主动消除数据壁垒，公开事故数据，对事故原因配合相关部门进行盘查，才是企业应有的正确态度。6.4 6.4 自动驾驶汽车的数据伦理问题自动驾驶汽车的数据伦理问题自动驾驶汽车中的数据壁垒第6章自动驾驶汽车伦理自动驾驶车辆的数据，究竟该由谁主导？尤其是发生事故时，该如何对数据进行公开，要公开到什么程度？对于车辆的数据所属权的问题，应该分开来看。涉及到用户的行车数据，属于用户的个人隐私，在未经过用户授权的情况下，车企是不可以提供给第三方或另作他用的；但那些车辆的技术数据，虽然由车主产生，却是由企业主导的。6.4 6.4 自动驾驶汽车的数据伦理问题自动驾驶汽车的数据伦理问题自动驾驶汽车数据归属问题第6章自动驾驶汽车伦理自动驾驶技术的基础是深度学习，这种“黑箱化”的算法过程，本身会使使用者和社会公众心存疑虑。深度学习需要使用大量的数据进行训练，而这些数据的应用场景是否真正能够代表自动驾驶的复杂场景，数据是否存在着偏误，这些都会带来可信度的问题。6.4 6.4 自动驾驶汽车的数据伦理问题自动驾驶汽车的数据伦理问题自动驾驶汽车的数据可信性问题第6章自动驾驶汽车伦理 自动驾驶技术的发展非常快，法律法规滞后于技术发展时客观存在的。当新技术不断迭代时，法律法规和监管层面也要加快步伐，适时调整。目前我国的相关法律法规，如中华人民共和国网络安全法、网络安全等级保护条例、数据安全管理办法等在智能网联汽车领域仍存在一定的不适用性。6.4 6.4 自动驾驶汽车的数据伦理问题自动驾驶汽车的数据伦理问题自动驾驶汽车的数据监管问题第6章自动驾驶汽车伦理即便所有的技术都能解决，无论从理论还是实践看，自动驾驶不会100%的安全。 自动驾驶算法及软件的缺陷可能决定车主或者路人的生死，因此，应尽量避免这种缺陷形成的安全问题。其他安全因素还包括传感器故障等方面。由于雷达等传感器故障导致信息错误，进而导致事故发生。自动驾驶汽车与普通汽车同样存在黑客攻击或控制的风险。6.5 6.5 自动驾驶汽车安全问题自动驾驶汽车安全问题第6章自动驾驶汽车伦理考虑到专用人工智能技术的特点，对于考虑到专用人工智能技术的特点，对于L1-L4级自动驾驶的责任问题可以分级自动驾驶的责任问题可以分类讨论。类讨论。1.封闭路段 如果道路工况达标，则应检视自动驾驶是否存在硬件或软件故障，部件有问题则由相关厂商承担责任，部件整合搭配问题则有整车制造商承担责任。2.开放路段 在不满足完全自动驾驶条件的开放路段进行自动驾驶，其行为本身已经包含了发生潜在交通危险的可能性。此时，驾驶员如果仍然开启自动驾驶模式前行，不论有意或无意，都已在事实层面实施了自动驾驶行为。6.66.6自动驾驶汽车责任问题自动驾驶汽车责任问题第6章自动驾驶汽车伦理 通过经典电车难题阐明了自动驾驶汽车伦理困境。 自动驾驶汽车最基本的伦理问题是安全问题，其次是责任问题。 解决这些伦理问题需要算法技术解决，更需要人类的智慧与机器智慧的结合。 通过本章的学习，加深对于机器伦理的理解，有助于通过自动驾驶汽车理解具体的人工智能伦理问题。6.7 6.7 本章小结本章小结第6章自动驾驶汽车伦理