浅谈医疗人工智能的伦理问题,伦理学论文.docx

《浅谈医疗人工智能的伦理问题,伦理学论文.docx》由会员分享，可在线阅读，更多相关《浅谈医疗人工智能的伦理问题,伦理学论文.docx（12页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、浅谈医疗人工智能的伦理问题,伦理学论文内容摘要：人工智能在医疗行业领域的应用与实践中带来了新的伦理挑战。新的人工智能技术可能对患者产生潜在的风险,这些风险因素主要来自算法偏见、隐私安全、医生接受度、责权和技术滥用等。当下医疗领域缺乏医疗人工智能伦理规范和审核机制。对当下国内外产业界与医疗的人工智能伦理规范现在状况进行了概述。医疗人工智能将来对整个医疗健康体系势必产生重大的影响,有助于医疗健康体系的重塑,促进公民的健康民主。等待行业组织或者制定医疗人工智能伦理规范。 本文关键词语：人工智能,医学伦理,算法偏见,健康民主 人工智能(artificial intelligence,AI)已经在医疗健

2、康领域进行了广泛的探寻求索性应用,部分已经构成商业化的使用。AI将产生广泛的影响,显着地影响医学实践,改变患者体验和医生的日常生活。与此同时,AI先进的技术也带来一系列新的伦理挑战。医疗伦理自古以来就贯彻整个医学发展的各个阶段,AI作为变革性的技术,对医疗健康体系势必产生重要的影响。本文就医疗AI伦理若干问题进行讨论。 1 当下医疗AI伦理的主要问题 1.1 算法偏见对患者安全造成潜在风险 牵涉患者安全的风险主要表现为 AI 提供的辅助诊断、治疗建议以及操作可能误导医生进行错误的决策,直接或者间接对患者产生不同程度的机体伤害。这种危害从技术上看主要来自系统的算法偏见(algorithmic b

3、ias)与漏洞。算法偏见指的是AI系统中产生不公平结果的系统性和可重复性错误,偏差可能是由于很多因素造成的,包括但不限于算法本身的设计、数据编程、收集、选择或用于训练算法的方式相关的意外或非预期的使用或决策。 计算机产生的偏见几乎无处不在,偏见的原因往往不在准则中,而是在更广泛的社会经过中。使其结果存在无意识和制度偏差。算法偏见主要分为 数据驱动造成的偏见 人为造成的偏见 与 机器自我学习造成的偏见 三种类别1。 数据驱动造成的偏见 指由于原始训练数据存在偏见性,导致算法执行时将歧视带入决策经过。鉴于算法本身不会质疑其所接收到的数据,只是单纯地寻找、挖掘数据背后隐含的构造和形式,假如人类输入给

4、算法的数据一开场就存在某种偏见或爱好,那么算法获得的输出结果也会与人类偏见一样。 例如,图像辨别以及使用机器学习和建立学习算法的经过中,存在潜在的偏差。训练图像往往来源于某个详细合作医疗机构的数据,其图像标识经过中带有鲜明的该医疗机构的诊断特色和习惯。除此之外,算法概念化的框架本身包含了工作组的主观假设,这种基于 主观 上的数据结果成为所谓 客观 的数据输入。尽管国际影像厂商设备的图像质量趋同同质性,但更多的不同厂商影像设备也存在不同的设备型号、数字化成像质量的程度上的差异,同时模型可能造成或加剧按年龄、性别、种族、地区或其他受保卫特征划分的医疗保健人群不公平现象。这些因素导致应用的范围存在偏

5、差。 人为造成的偏见 是指算法设计者为了获得某些利益,或者为了表示出自个的一些主观观点而设计存在歧视性的算法。这里包括主观的偏见和客观的偏见,一方面由于人和技术本身问题造成的,另外一方面也有人刻意而为之。斯坦福大学有学者以为,用于医疗保健应用的AI开发者的价值观可能并不总是与临床医生的价值观一致。例如,可能会有诱惑,引导系统采取临床行动,提高质量指标,但不一定是为患者护理2。这些算法可能会在被潜在的医院监管机构审查时,扭曲为公众评估提供的数据。而也有人为的偏见是来自医学的本身特点,尤其在治疗方案上有着区域、学派的分歧,治疗方案选择上存在人为的偏见,尽管循证医学已经成为主导,但具有主观色彩的经历

6、体验医学在临床实践上仍有效。很多时候,没有治疗唯一的 金标准 ,这也就是为什么经常出现等级性质的方案推荐,有着专家共鸣、临床指南、临床规范的不等的标准。除此之外人为的偏见,也有可能来自系统开发机构工程师伦理知识的匮乏,缺乏专业知识。 机器自我学习造成的偏见 是随着算法复杂程度的日益提高,通过机器学习经过构成的决策越来越难以解释AI内部的代码、算法存在 黑箱 3,导致无法控制和预测算法的结果,而在应用中产生某种不公平倾向。 1.2 患者隐私遭泄露的风险 进入信息化时代后,患者个人健康信息数据(personal health information,PHI)一直被关注,亦有相应的行业规范和政策法规

7、进行管理。随着数据搜集、机器学习、AI等技术的使用,个人信息泄露的情况频繁发生,个人隐私保卫、个人健康自信心重要性日益凸显。当下对于医疗AI应用牵涉患者的隐私问题、自我保卫策略和可接受性尚还没有清楚明晰的策略。数据更多的泄露来源是在为AI进行训练的患者数据。华而不实,人体基因组数据的泄露潜在的生物危害和商业利益更为突出。公众对个人隐私泄露问题的顾虑占到调查人群的59.72%4。 1.3 医生对医疗 AI的接受性 从技术角度而言,医生不了解AI算法的局限性或范围,进而对这种不透明的 黑箱 效应产生了盲目信仰或怀疑的可能,但还是不信任的占多数。由于医疗 AI 当下还处于相对早期的临床应用阶段,无论

8、医生还是民众对医疗 AI 的信任程度未到达期望。很多医疗 AI 系统没有很好地整合到医疗工作中,即医疗 AI 解决方案并未贯穿于医疗全流程,反而部分操作增加了医生现有的工作负担,其带来的价值没有很好的具体表现出。除此之外,医生对医疗 AI 新技术存有各种顾虑,不自觉地表现出排挤和质疑的心理,某种程度上延缓了新技术的迅速推广施行。对于新技术的接受程度,具有海外进修培训经历的高学历的中青年医生对 AI技术应用更持有理性的态度,而部分年长的医生对新技术持有质疑和排挤的心理。除此之外,在医疗不同场景下的应用,也导致对 AI 的评价与接受度不同。有研究发现,在医学培训教育上医生对 AI 的作用认可程度最

9、高5。 1.4 医疗责权问题 医生对 AI 系统临床应用的另一个顾虑是谁对医疗 AI 提供的决策最终负责,假如出现错误,谁来承当后果。当下阶段,医疗 AI 的最后结果仍需要人工校验审核,医生承当由此对患者诊疗结局的责任。将来临床广泛引入医疗 AI 后怎样实现问责,如今仍不明确。 当AI应用结果导致医疗纠纷、关于人的伦理或法律冲突时,能否从技术层面对AI技术开发人员或设计部门问责,并在AI应用层面建立合理的责任和赔偿体系,保障医疗 AI 在临床发挥其应有的价值。 1.5 医疗 AI滥用导致过度医疗与潜在风险 医疗AI在特定领域十分是影像辨别上已经高于人类辨别平均水平,而且具有较高的效率,但作为工

10、具在临床上也有滥用的风险,进而导致过度医疗。根据某城市某三级医院院网站公开报道,自医院引入肺结节影像辨别 AI 技术后,肺结节筛查人次三年中增长73%,筛查直接带来的收益增长 81%,加上手术治疗,医院总收益增长100%。 随着效率的提升,医院业务水平得到极大的提高。从公开的数字看,AI 给医院带来丰富的经济回报。但从所在地区的卫生统计年鉴来看,所在地区的非传染性疾病的疾病谱分布情况未发生明显改变,而根据该院肺部结节患者和手术量短期大幅增加能够怀疑其利用 AI工具进行了过度医疗。这种过度医疗无疑对患者身体上和经济上都带来伤害。在NLST(national lung screening tria

11、l)研究中,CT筛查组中96.4%的阳性结节为良性,我们国家农村肺癌早诊早治项目的假阳性率也较高。过高的假阳性可能导致过度诊断、过度治疗、医疗资源的浪费及增加受检者焦虑心理6。 医疗 AI 好像双刃剑。2022年7月17日美国神经网络公司Neuralink在旧金山举行新闻发布会,公布脑机接口系统获得新突破。此公司研发 像缝纫机一样 的机器人,这个机器人能够将超纤细的线植入大脑深处。目的是将AI直接植入人类大脑皮层以提高人类智能水平(即脑机接口技术),Neuralink的初衷在于帮助人类解决脑部疾病。当前,研究人员已经在猴子身上进行实验,让猴子能用大脑来控制电脑。根据Neuralink官方颁布的

12、实验信息,他们把老鼠头部连接到USB-C端口,通过电线将老鼠的想法传到计算机,当软件分析其大脑时,能够通过扬声器听到老鼠神经元发射的信号。计划明年用于人体试验。从技术理论上看,这种技术能够实现双向控制,也就意味着计算机能够控制大脑以致于控制人类的行为,这无疑会产生很大的风险。 1.6 医疗伦理审查缺乏 国家药品监督管理局出台了对医疗 AI的相关指导规范,并已启动了认证流程,从范围、风险、临床试验上进行了规定。医院伦理委员会主要负责本医疗机构中药物和医疗器械临床试验、器官移植、牵涉人的医学研究、相关技术应用、动物实验以及医疗管理等活动的医学伦理学审查。当前,在医院内实际应用经过中还未有对 AI相

13、应的伦理审查机制,有医院参照药物临床试验引入的伦理审查机制对医疗 AI 引入进行伦理审查,但很难做到完全适用。 在实践中,有的伦理审查委员对于 不伤害 狭义地理解为不伤害身体,对风险的认识仍停留在仅关注生命健康、安全方面,忽视个人数据被不正当处理、个人信息泄露、损害隐私权所带来的社会心理风险7。更多医院对医疗 AI 引入并未经过伦理审查,也有医院在对患者应用医疗 AI 系统时尝试用患者知情同意书来躲避一些潜在风险。 2 医疗AI伦理原则 2.1 医学伦理原则 医学伦理基本规范沿袭(希波克拉底宣言直至当代的(日内瓦宣言8,其基本原则包括对患者的不伤害原则、有利原则、公正原则和尊重原则。任何医疗新

14、技术在医疗中应用都基于医疗伦理道德,在伦理范围内规范医疗实践的准则和秩序,其新技术最终目的是为了人类健康福祉服务,而非对人类的伤害。 2.2 AI的伦理原则 诸多产业组织在AI伦理上制定了规范原则。当前,两个影响较为广泛的AI伦理共鸣:(阿西洛马人工智能原则(Asilomar AI Principles)和国际电气电子工程师协会(Institute of Electrical and Electronics Engineers,IEEE)组织建议的(人工智能伦理标准,鼓励技术人员优先考虑道德规范自主和智能技术创造中的影响因素。很多国际巨头如: IBM、Google、Microsoft、Inte

15、l 等都制定了AI的产品原则和伦理规定。这些原则大部分都牵涉安全、透明、保卫隐私、防止滥用等内容,核心都是充分维护人类根本利益。能够看出,这些都是以人为核心的理念。 2.3 医疗AI伦理规范 当前,美国医学会(American Medical Association,AMA)对医疗 AI 明确提出了规范,十分强调促进精心设计、高质量、经临床验证的医疗保健AI的发展,即(1)根据以用户为中心的,十分是针对医师和其他医务成员,进行最佳实践的设计和评估;(2)透明;(3)符合引线标准的再现性;(4)辨别并采取措施解决偏见,避免引入或加剧医疗保健差异,包括对弱势人群测试或部署新的AI工具时;(5)保卫

16、患者和其他个人的隐私利益,并保存信息9。 中国的一些医疗行业协会也成立了AI分会,在医疗 AI 伦理规范上也做了一定探寻求索。然而,仅有中国医师协会超声医师分会发布了(中国超声医学人工智能行为准则:北京宣言,并从 制定规范、科学管理;实现医工结合、促进转化;以临床为中心,使患者利益最大化 3个方面 13条细则阐述了准则10。 当前,对跨学科领域的医疗AI还少有伦理上的研究与探寻求索,揣测其原因在于医疗 AI 尚未在临床得到广泛的应用,临床的迫切需求不够强烈。综合来看,医疗AI的伦理规范还是以人为核心、强化患者安全、保卫患者隐私、AI 技术要透明、防止滥用的最终目的是促进疾病恢复,维护人类健康,

17、实现健康民主。 3 对医疗健康体系的影响 尽管医疗 AI 不可能取代医生,但是医生相当多的重复性、规律性的诊疗工作能够被AI 所代替。长远来看,AI将产生广泛的影响,彻底改变医学实践,改变患者体验和医生的日常生活,医务人员的职业形态也必将发生改变,这就对医生的临床技能提出了更高层次的要求,应愈加注重对患者的人文关心。 医疗 AI 应用逐步向消费者端浸透可及,主要表现为个人、组织愈加便捷地获取各专业领域及生活行为方式的最适宜决策建议,带来开放、可及、民主式的医疗,给公众和医生更多机遇,也弥补之前医患之间 信息不对称 的鸿沟,患者能够愈加积极主动地介入本身的诊疗经过,实现了 健康民主 ,进而对整个

18、医疗健康体系产生重大的变革。 4 策略与期望 为医疗AI的伦理创造 法律 或 规则 是具有挑战性的,由于伦理道德界线很难教授软件系统或者机器11,而且医学和相关影响因素本身的复杂性也决定了医疗AI伦理规范定义的艰巨性。除此之外,更核心的问题是人类的道德与伦理规范怎样实现。 医疗AI系统发现、理解并指出人类在决策经过中的不一致性时,还可能揭示出人类本身偏袒、狭隘和认知偏见的方式,反过来促进人类采取更公正或平等的观点。构成共同价值观的经过中,人类可能比AI进步得更多。 利用技术工具在AI中建立道德规范,部署AI的人面临的问题之一是深度学习和神经网络的黑盒子性质。这使得建立透明度和减少偏见有一定的困

19、难。作为技术的提供方,越来越多的公司正在部署技术,搭建平台来帮助解决这个问题。例如,IBM的AI OpenScale、开放源码工具以及来自AI初创企业的解决方案,能够提供更大的透明度,并检查偏见。在实现上,要确保开创建立道德的治理构造并确保AI系统的责任,明确角色和构造,将AI道德责任分配给关键人员和团队,并赋予他们权利。利用调整现有的治理构造,在特定的团队中构建问责制来实现。例如,组织中现有的道德主管(如首席道德官)可以以被委托负责研究AI中的道德问题。建立内部和外部委员会,负责符合道德地部署AI,这些委员会是独立的,因而不会遭到急于部署AI的人的压力。 除此之外,对于使用机构,医院伦理委员会需要对医疗 AI 伦理的制度进行完善,全方位地对产品和方案进行评估,既要保证安全不伤害也要顾及技术进步性的意义。 2022年7月,深化改革委员会召开： 下一篇：