思考
当前,人工智能正在快速深入医疗领域。从辅助诊断到精准治疗,从慢性病管理到患者随访,人工智能的应用范围不断拓展,逐步构建起覆盖诊疗全流程的智能服务体系。
不过,即便这些被视作精准医疗代表的人工智能技术,也暗藏着侵权风险。
一个亟待厘清的问题是:当诊疗类人工智能导致患者权益受损时,责任该如何界定?
nload="this.removeAttribute('width'); this.removeAttribute('height'); this.removeAttribute('onload');" />
常见三大应用场景
所谓诊疗式人工智能,是指利用人工智能深度学习算法,为医务人员的诊断与治疗提供辅助决策的系统,具备病灶特征识别、病变性质判定、用药指导、治疗计划制订等功能。
人工智能医学影像疾病诊断系统是目前医疗人工智能领域较为成熟的应用,主要用于医院放射科和超声影像科,辅助进行肺结节、甲状腺结节等疾病的超声诊断。此类系统可以通过深度处理各类医疗影像数据,对结节病灶进行快速准确的解剖学定位,描述其大小、体积、密度、CT值等形态特征,进而生成疾病诊断建议。
人工智能辅助诊断系统通过模拟医务人员的思维提出针对性治疗方案。例如,某些癌症诊断系统可以结合医学图谱、专家知识、病历及患者信息等资料,提出进一步检查建议或推荐治疗方案,为医生诊疗提供支持。我国部分医院应用的“智医助理”“儿科临床智能辅助诊疗系统”等,属于这类人工智能辅助诊断系统。
医疗机器人是人工智能应用中备受关注的领域。现阶段的手术机器人多由医生操控,协助完成手术。目前国内的医疗机器人主要包括骨科、神经外科手术机器人,胶囊内窥镜、胃镜诊断治疗辅助机器人等肠胃检查与诊断机器人,以及针对部分丧失运动能力患者的康复机器人、智能静脉输液药物配制机器人等。
存在四种侵权情形
值得注意的是,诊疗式人工智能可能出现误诊、漏诊、提供不合理建议等情况,机器人辅助手术过程中也可能会发生事故。
诊疗式人工智能误诊。如肺结节CT影像辅助检测软件,可能误将血管标注为肺结节,或者对标注的肺结节恶性概率估算错误。此时,若系统已明确标注可疑肺结节的位置、恶性概率等信息,医务人员有义务对机器判断结果逐一验证。
诊疗式人工智能漏诊。国外有案例提到,诊疗式人工智能被用来评估患者的头皮、颈部和耳朵周期性瘙痒,但遗漏了光化性角化病的诊断,该角化病后来发展为皮肤癌。诊疗式人工智能的研发者并未尽到相应的警示说明义务,告知医务人员诊疗式人工智能触诊皮肤的诊断能力有限。
诊疗式人工智能提供不合理建议。诊疗式人工智能存在算法黑箱,而且算法决策机制也可能不合理,导致诊疗式人工智能输出不合理的诊断建议。例如,用以训练的诊疗式人工智能的数据来源有问题,其仅接受过年轻和健康人群数据,却为老年患者提供了用于高血压治疗的建议。此时,医务人员应当对诊疗式人工智能输出的辅诊建议履行再判断义务。
机器人辅助手术发生事故。机器人辅助手术导致患者损害,不仅包括物理部件致人损害,还包括机器的算法决策不合理导致患者损害。医生使用手术机器人进行手术的过程中,应当进行详细的规划,在术中机器人出现问题时应当及时接手,尽到相应的再判断义务和监督义务。
侵权责任如何划分
在我国,诊疗式人工智能尚不能作为独立主体承担医疗损害责任。判断其致害后的责任承担,需根据实际情境进行区分,是单纯的产品缺陷致害,还是医疗机构及医务人员同时存在过失导致损害,进而确定责任如何承担。
若患者因诊疗式人工智能产品缺陷受损,依据民法典第1223条及《最高人民法院关于审理医疗损害责任纠纷案件适用法律若干问题的解释》(后简称医疗损害责任司法解释)第21条规定,产品的生产者、销售者、医疗机构、医疗器械注册人及备案人需承担不真正连带责任,向患者直接赔偿。承担责任后,可向引起缺陷的终局责任主体追偿;生产者与研发者、提供者、部署者之间的追偿,依内部合同约定处理。
若诊疗式人工智能存在缺陷,同时医务人员存在医疗过失,二者共同造成患者同一损害,根据医疗损害责任司法解释第22条,医疗机构与产品的生产者、销售者需承担连带责任。承担责任后向其他主体追偿时,应根据诊疗行为与缺陷产品对损害的原因力大小确定追偿数额。
值得提醒的是,当医院应用诊疗式人工智能后,医疗机构的组织管理义务相应强化。若因医疗机构未对医务人员做好培训管理,或未及时更新维护系统导致患者损害,依据民法典第1218条,医疗机构需承担赔偿责任。若医务人员存在故意或重大过失,比如对系统给出的明显违背医疗常识的建议未履行再判断义务,导致患者损害,医疗机构承担赔偿责任后,可依据民法典第1191条向该医务人员追偿。
总之,诊疗式人工智能的应用正如硬币的两面,优缺点始终相伴相生。清晰明确各方责任,既不是为技术应用设限,也不是对医疗行为苛责,而是为了在创新与安全之间找到平衡,让人工智能真正成为医疗领域的可靠助力。
文:东南大学法学院助理研究员 候曼曼
编辑:门雯雯 李诗尧
校对:杨真宇
审核:秦明睿 徐秉楠