人工智能(AI)承诺能够提高医疗诊断、治疗和服务的效率与精确度——理想情况下可以改善临床效果、降低成本并减少医疗差异。然而，这些改进并非必然，而且存在可预防的危害风险。
用于训练AI模型的数据中存在的偏差——或者这些数据与目标患者群体之间的不匹配——可能导致差异性的健康结果或不当的响应。此外，AI系统已被发现会产生"幻觉"（虚假或误导性的响应），并且由于数据偏移和AI模型的"脆弱性"（在面对新情况时无法适当调整）等因素，其表现会随时间发生变化。
此外，如果机构对AI抱有不切实际的期望、未能明确目标、监管和监督不足，或者没有充分准备数据供AI应用使用，AI解决方案可能会产生令人失望的结果。
归根结底是什么？过分信任AI模型——以及未能适当审查其输出——可能导致不当的患者医疗照护决策。AI作为一种先进工具确实能为临床医生和医护人员提供巨大的潜在价值，但前提是人类的决策必须始终处于医疗照护过程的核心地位。预防危害需要在将任何AI解决方案纳入医疗运营或临床实践时进行仔细考虑。
安全有效地使用此类设备需要遵守关键的技术管理规范。这包括在考虑使用者能力的情况下评估设备的适用性，减轻预期使用环境中的任何物理或结构限制，提供适当的配件，并为正确的设备操作和维护提供充分的培训。
忽视这些规范可能导致一些事件和错误未被发现，设备读数被误解（这可能造成虚假的安全感或不必要的担忧），或者因未解决的设备故障而导致护理延误和其他伤害。ECRI遇到过多起因医疗设备在家庭环境中安装不当或使用不熟练而导致患者受到伤害的案例——从因更换不熟悉的输液泵而导致住院，到因呼吸机报警未能激活而造成的严重死亡事故。
虽然使用第三方工具和服务有诸多益处，但当发生导致第三方供应商运营能力丧失或降低的事件时，医疗机构的运营可能会受到威胁。在一些备受关注的案例中，未经授权的访问、服务中断或其他不利的网络安全事件影响到供应商并对患者护理产生深远影响——2024年针对Change Healthcare的攻击及其导致的全国范围内药房和计费服务中断就是一个例子。
此类事件可能导致医疗机构无法获得关键服务、可靠数据或与合作伙伴的有效沟通渠道。这些情况都可能危及患者安全，造成护理延误、阻碍或质量下降，并对患者预后产生不利影响。
帮助医疗机构降低第三方风险的措施包括：在服务采购过程开始时对供应商进行全面审查、建立冗余机制、开展事件响应测试以及制定恢复程序。
— 美国食品药品监督管理局（FDA）警告称，XX制造的某些塑料注射器可能存在故障风险，这可能影响美国医疗机构中超过10亿件产品
— ECRI对隔离衣的测试持续发现，在过去四年中分发的产品存在质量问题
— 通过在线市场、代发货网站或未经授权的经销商渠道出现的假冒糖尿病测试设备、输液泵电池和其他产品
劣质或欺诈性产品大规模进入美国市场的情况已变得惊人地普遍，这对患者医疗照护产生了广泛影响。主要而言，此类设备可能更容易发生故障或失灵，导致误诊或伤害。此外，这些产品导致的供应中断和召回会给供应链带来压力，导致产品短缺；而采取纠正措施所需的时间和资金成本也会增加，因为医疗机构必须重新审查受影响产品的库存。
发生火灾所需的三个要素——氧化剂（任何可支持燃烧的气体）、燃料（任何可燃物体）和引火源——在供氧的任何地方都可能存在。引火源可能是明显的，比如手术过程中使用的电外科电流，也可能是意想不到的。ECRI已调查过在除颤过程中发生的火灾，以及与使用加热湿化器、光纤光源和损坏的电线等相关的火灾，这只是其中的几个例子。
手术室的医疗人员可能充分意识到手术室内使用辅助供氧时的火灾风险，因为在这里存在引火源是很常见的。然而，ECRI的调查表明，需要加强对手术室以外区域火灾的预防意识，以保护患者、员工和其他人员免受火灾可能造成的灾难性后果。
某些麻醉设备的配置使得在开始手术病例时启用的报警限值——即默认限值——会被设置为零或其他不安全的偏低值。实际上，这相当于在病例开始时就禁用了报警功能。
麻醉医生可以根据情况需要更改报警设置；在某些手术过程中，可能需要将报警限值临时调至较低值。然而，ECRI建议不要将设备配置为使较低限值的默认设置为零或其他不安全的偏低值。
ECRI调查了多起由于不当的默认报警限值导致危险状况未被发现的事件，这些事件造成了患者伤害，包括手术期间知晓、脑损伤，甚至死亡。需要特别关注的报警包括分钟通气量报警（用于提醒医护人员呼吸过慢和/或过浅）以及低呼气末浓度报警（用于提示患者没有接收到足够浓度的挥发性麻醉剂）。
在患者术前或术后不久可能需要暂停用药，或者当患者病情发生变化时（例如继续使用某种药物不再适合），或者按照临床方案的要求也可能需要暂停用药。在需要时未能暂停用药，或者在情况需要时未能重新开始或终止已暂停的用药，都可能导致患者伤害。
医疗实践安全研究所（ISMP）发现，与暂停医嘱相关的错误往往可以归因于对暂停医嘱含义的不确定性、如何传达医嘱的不确定性，或者对应遵循何种流程的不确定性。
一个关键问题是EHR系统的配置可能会妨碍轻松获取暂停医嘱的详细信息。例如，EHR系统可能要求医务人员滚动、浏览或搜索有关何时暂停（或恢复）用药的信息。或者，开具处方的医生可能在系统中不容易被其他医务人员看到的位置记录这些信息。
与管路管理不当相关的感染可能源于：
— 病原体进入接头和输液管路（例如，如果在接触前未对接头进行清洁和消毒）
— 环境污染物接触插入部位或输液管路外表面（例如，如果医护人员用被污染的手套触碰插入部位或管路）
— 药物、溶液或其他输注物被污染（例如，如果在准备过程中未遵循无菌技术，或在使用时未遵循无菌操作）
医疗相关感染可能造成严重后果，包括延长住院时间以及增加患者发病率和死亡率。为了最大限度地降低风险，医护人员应遵循感染控制最佳实践，包括在插入、操作和维护管路时采用无菌技术，并根据需要使用标准预防措施或额外的传播预防措施。
可能导致医用粘合剂相关皮肤损伤（MARSI）的因素包括：
— 患者风险因素，如年龄、营养状况或潜在的医疗状况。
— 粘合产品的特性。较强的粘合剂能提供更牢固的固定效果，但也更可能损伤皮肤。
— 选择了不适合预期用途的产品。
— 在使用或移除粘合产品时的操作错误。
MARSI可能发生在任何护理环境、医疗专科和患者群体中。虽然大多数皮肤损伤会在几天内痊愈，但它们仍会造成不必要的不适和疼痛；此外，这些损伤还可能使患者容易受到感染，从而导致更严重的后果。
输液治疗是一种极其普遍的治疗方式，绝大多数输液都能在没有任何事故的情况下完成——也就是说，输液泵能按预期向患者输送药物或溶液。然而，不良事件和差错确实会定期发生。输液泵相关事件经常出现在提交给FDA、ECRI和其他患者安全组织的报告中。
正如ECRI在过去五十多年研究输液泵相关事件的经验所表明，必须检查泵的硬件和软件、静脉输液装置及其他配件，以及使用者的操作等相关问题。此外，工作人员在事件发生后采取的一些措施可能会无意中妨碍未来的调查。
识别根本原因和实施纠正措施的过程，始于创建一种能够立即报告事件的文化氛围。其他措施包括教育工作人员如何在事件发生后立即做出响应，以及应采取哪些步骤来支持调查——比如记录事件细节，以及保存输液泵和与之一起使用的所有配件和一次性用品。
小结：本清单揭示了当前医疗领域面临的复杂挑战与潜在风险。面对这些挑战，医疗机构、技术供应商、政策制定者及医护人员需共同努力，通过加强监管、提升技术水平、优化工作流程、强化人员培训等措施，来有效预防与应对这些危害。同时，建立全面的风险管理体系，确保在不良事件发生时能够迅速响应、深入调查，并从中吸取教训，不断完善医疗安全体系。只有这样，我们才能为患者提供更加安全、高效、高质量的医疗服务，推动医疗技术的健康发展。
审校：赵庆华、肖明朝 重庆医科大学附属第一医院
主办：重庆市医学会医学工程学分会
声明：
1.文章仅供参考，不作商用，不负法责；
2.原创文章未经许可不得擅作他用；
3.转载文章如有侵权，请与本平台联系。