【人工智能】AI 危害位居 2025 年健康技术危害榜首

非营利性患者安全组织 ECRI 表示，在医疗保健环境中使用人工智能 (AI) 模型而没有适当的监督是 2025 年最严重的健康技术危害。该组织第 18 份年度十大健康技术危害报告将家庭护理患者未满足的技术支持需求和易受攻击的技术供应商以及网络安全威胁分别列为第二和第三位。

虽然只有 ECRI 成员才能获得完整文件，但记者可以下载一份总结主要亮点的执行摘要。该报告为卫生记者提供了值得关注的问题的良好入门指南，并可以成为丰富的故事创意来源。它确定了该组织认为最值得关注的潜在危险源，并提出了降低风险的建议。

ECRI 预测 2025 年十大健康科技危害

1. 人工智能健康技术的风险。

2. 家庭护理患者尚未满足的技术支持需求。

3. 脆弱的技术供应商和网络安全威胁。

4. 不合格或伪造的医疗器械和用品。

5. 使用补充氧气的区域存在火灾风险。

6. 麻醉装置的默认警报限值极低，非常危险。

7. 对药物订单的临时搁置处理不当。

8. 输液管线管理不善会造成感染风险和绊倒危险。

9. 医用粘合剂产品造成的皮肤损伤。

10. 输液系统事故调查不完整。

ECRI根据会员调查的回复、文献综述、实验室医疗设备测试以及患者安全事件调查来编制这份清单。

人工智能的危险

作者指出，尽管人工智能有望提高医疗诊断和治疗的效率和精确度，但也有可能造成可预防的伤害。作者表示，用于训练人工智能模型的数据中存在的偏见可能会导致不同的健康结果或不适当的反应。此外，人工智能系统可能会产生“幻觉”，即对某些提示做出错误反应，并且应用程序的性能可能会随着时间的推移而恶化。

他们表示，人工智能作为协助临床医生和医护人员的工具具有“巨大的潜在价值”，但前提是人类决策仍然是护理过程的核心。

他们在执行摘要中写道：“过于信任人工智能模型，而未能适当审查其输出，可能会导致不恰当的患者护理决策。”“利用人工智能改善患者护理需要组织确定明确的目标，评估和管理风险，评估选项，制定有效的实施计划，管理期望，并监控绩效以发现随着时间的推移出现退化的迹象。”

家庭护理技术支持

关于第二项，家庭护理患者的技术支持需求，作者指出，在家中提供护理有“独特的关注点”，特别是当患者或家庭成员负责操作输液泵、呼吸机或透析机等复杂的医疗设备时。

ECRI 首席项目工程师 Priyanka Shah 硕士在 12 月 5 日介绍该报告研究结果 的网络研讨会上表示，越来越受欢迎的家庭医疗保健模式将传统上在临床监督下使用的机器带入家庭环境。

“最终用户有所不同，”她说。“这些是患者、护理人员或非专业用户，他们现在负责维护设备、排除故障、设置设备等。”

沙阿表示，提供这些项目的医疗机构需要选择符合患者需求、能力和环境的设备。他们还应确保使用说明以患者喜欢的语言提供，并易于理解。患者还应接受有关如何使用设备的口头和视觉培训。沙阿表示，理想情况下，最终用户应该有机会练习使用这些设备。

作者写道，疏忽此类做法可能会导致错误或护理延误，以及因未解决的设备故障而造成的其他危害。ECRI 已经遇到了“大量患者因设置不当或对家庭环境中使用的医疗设备不熟悉而受到伤害的例子”。

网络安全威胁

易受攻击的技术供应商和网络安全威胁位列第三。如今，许多医疗系统都使用并依赖外部供应商托管的技术产品。这包括从调度和计费服务到电子健康记录或其他程序等各种服务。作者表示，虽然使用第三方工具有好处，但网络攻击、数据泄露或供应商服务中断可能会危及医院运营。

例如：2024 年 2 月，美国最大的保险账单和付款清算机构之一 Change Healthcare 遭受攻击。该公司遭受的攻击严重扰乱了其全国医院、医疗办公室和药房客户的运营。

作者表示，医疗保健组织可以尝试通过在服务获取过程开始时彻底审查供应商、进行模拟来研究在特定程序或服务离线的情况下医疗保健流程将如何继续以及制定从潜在事件中恢复的程序来降低这些风险。

ECRI 副总裁兼信息安全官 Kallie Smith 在网络直播中表示，企业往往只关注影响其所在领域的公司的信息泄露事件。“看待网络安全事件和一般 IT 事件的最佳方式之一是假设任何组织都可能发生类似事件，”她说。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2024-12-03

2024-11-17

2024-11-16