医疗算法被广泛应用于医疗保健领域，用于诊断疾病、提供预后、监测患者健康以及辅助行政任务，例如预约安排。但是，这项技术在美国的应用历史充满了失控的故事。从性创伤受害者被不公平地标记为药物滥用高风险人群，到全国 100 多个医疗系统使用的脓毒症检测算法的诊断失败，再到临床决策支持 (CDS) 软件阻止数百万黑人患者获得必要的复杂护理转诊，问题层出不穷。这些问题可能也在延长当前的疫情：2021 年对数十种旨在检测或预测 COVID 病程的机器学习算法的综述发现没有一种在临床上有用。
关键是：如今使用的许多医疗算法无需获得美国食品和药物管理局的批准，而那些需要批准的算法也常常未经临床试验。
为了理解原因，让我们简要回顾一下历史。1976 年，在达尔康盾 (Dalkon Shield)——一种宫内节育器——被指控导致多起死亡和大量住院事件后，国会修订了《食品、药品和化妆品法案》，强制要求医疗器械通过临床试验证明其安全性和有效性。为了快速审批器械，制定了一项名为 510(k) 的条款，以利用当时市场上已有的数千种医疗器械。根据 510(k) 许可途径，如果制造商能够证明其器械在材料、用途和作用机制上与市场上已有的另一种器械“基本等同”，则无需提供临床试验数据。当时，这似乎是政策制定者完全合理的妥协方案。如果外科手套已经获得批准，为什么还要让外科手套制造商进行严格的临床试验呢？
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您将有助于确保有关塑造我们当今世界的发现和思想的具有影响力的故事的未来。
当然，医疗器械随着时间的推移变得越来越复杂。外科手套被外科机器人所取代；膝关节支具被人工膝关节所超越。最终，变得难以确定两种器械是否真正等同。从 1990 年代开始，联邦政府着手解决日益复杂的问题，简化了一些法规，包括扩大基本等同的定义，将机制和设计差异显著的器械也包括在内，只要它们具有相似的安全性。目的是鼓励创新，但最终，这一变化导致了更多不安全和无效的器械。
更复杂的是，即使通过 510(k) 批准的器械，如果其谓词器械后来因质量和安全问题而被召回，仍然可以留在市场上。这种做法导致了“大厦将倾”的现象，目前医院使用的许多器械都是基于失败的前代产品。在 2008 年至 2017 年间召回的 3,000 多种器械中，97%已获得 510(k) 许可。
根据现行法律，医疗算法被归类为医疗器械，可以通过 510(k) 审批流程获得批准。然而，与过去的医疗器械相比，它们透明度更低、复杂性更高、更可能反映先前存在的人类偏见，并且更易于随时间推移而演变（和失败）。此外，国会在 2016 年的《21 世纪治疗法案》中将某些与健康相关的软件排除在医疗器械的定义之外。因此，一些医疗算法，例如用于 CDS 的算法，可以完全规避 FDA 的监管。考虑到这些算法在医疗保健领域的普及性，这一点尤其令人担忧：2017 年，美国90% 的医院——约 5,580 家医院——都安装了 CDS 软件。
最终，监管需要随着创新而发展。鉴于不受监管的医疗算法对患者和社区构成的威胁，我们认为美国必须紧急改进对这些新时代器械的监管和监督。我们建议国会应采取三项具体行动。
首先，国会必须降低 FDA 评估的门槛。对于医疗算法，510(k) 下的等同性定义应缩小范围，以考虑新器械及其谓词所使用的数据集或机器学习策略是否相似。例如，这种措施将防止用于评估肾脏疾病风险的算法网络仅仅因为它们都预测肾脏疾病而被批准。此外，在美国医院普遍存在的 CDS 系统不应免于 FDA 审查。尽管 CDS 算法的结果并非旨在成为护理计划的唯一决定因素，但医疗保健工作者通常严重依赖它们进行临床决策——这意味着它们常常会影响患者的治疗结果。
其次，国会应拆除助长医疗保健工作者过度依赖医疗算法的系统。例如，要求医疗从业人员在开具阿片类药物处方前查阅算法以评估药物滥用评分的处方药监测规定，应在所有州都包含全面的豁免，例如针对癌症患者、急诊室就诊和临终关怀。总的来说，除非医生的决定导致患者受到伤害，否则医生不应因使用自己的临床判断而不是接受医疗算法的建议而面临重大处罚。算法可能会将患者标记为药物滥用高风险人群，但医生对该患者创伤史的了解会为解读增添关键的细微差别。
第三，国会必须建立针对可能随时间演变的技术的问责制系统。在这方面已经取得了一些进展。几年前，纽约州众议员伊薇特·克拉克 (Yvette Clarke) 提出了《2019 年算法问责法案》。该法案将要求创建涉及个人信息的“高风险自动化决策系统”的公司进行影响评估，并由联邦贸易委员会根据需要进行频繁审查。对于医疗保健机构中使用的医疗算法，联邦贸易委员会可以要求更频繁的评估，以监测随时间推移的变化。
这项法案和几项类似的法案已经提出，但尚未提交总统办公桌。尽管如此，我们仍然希望未来几个月势头将会增强。与此同时，FDA 正在采取初步措施来改进对医疗算法的监督。去年，该机构发布了首个专门针对这些技术的行动计划。但是，它尚未澄清有关 CDS 豁免和适当的 510(k) 许可的问题。
我们知道医疗保健领域的算法通常可能存在偏见或无效。但是，美国必须更加关注允许它们进入公共领域的监管系统。如果一项决定会影响患者的生命，“不伤害”原则必须适用——即使是对计算机算法也是如此。