npj Digit. Med. | 基于人工智能的FDA批准的医疗器械和算法现状

编译作者 | 王建民

摘要

人工智能(AI)/机器学习(ML)时代开始之际，人们对其寄予了很高的期望，专家们预见AI/ML在诊断、管理和治疗各种医疗条件方面显示出潜力。然而，AI/ML在日常临床实践中的实施障碍重重，尤其是在这些技术的监管方面。因此，深入了解目前可用的基于AI/ML的医疗设备和算法，这些设备和算法已被FDA批准。旨在提高监管机构的重要性，明确说明一个医疗设备是否基于AI/ML。通过交叉检查和验证所有的批准，研究人员确定了64个基于AI/ML，FDA批准的医疗设备和算法。

1

背景

2010年讨论人工智能(AI)和机器学习(ML)在医学和医疗保健中的作用的研究和论文数量有所增加。描述AI/ML的生命科学论文数量从2010年的596篇上升到2019年的12422篇。虽然我们正处于AI/ML时代的开端，但人们对其寄予厚望，专家们预见AI/ML在诊断、管理和治疗各种医疗状况方面显示出潜力。

事实上，基于AI/ML的技术已经被证明可以支持从放射学和肿瘤学到眼科和一般医疗决策的几个医疗专业。ML模型已被证明可以减少等待时间；提高用药依从性；定制胰岛素剂量；或帮助解释磁共振图像等。

尽管AI/ML的前景广阔，但在日常临床实践中实施AI/ML的障碍却很多。这些障碍包括围绕这些软件程序的透明度问题，它们所输入的数据的固有偏见以及它们的安全性。形成这些障碍的一个关键因素是对这些技术的监管。AI一词的使用本身就需要进一步澄清，因为已经提出了多种子类型，其含义可能是模糊的。为了进一步的投资和公众形象，公司往往会过度使用人工智能一词，而事实上它们开发的算法本身并不是基于人工智能。

如果FDA的官方公告、公司的或其他公开的信息资源使用了 "深度学习"、"机器学习"、"深度神经网络"、"人工智能 "和/或 "AI "等表达方式来描述该技术，研究人员将该技术归类为基于AI/ML。为了简单起见，在本文中使用 "基于AI/ML的 "一词来表示这些技术。随着医学领域对AI/ML的专业性和关注度越来越高，其使用的机会和可能的影响是持续辩论的主题。在这场实施辩论中，一个关键因素是对这些技术进行监管。

正如关于人工智能在医学中的作用的研究表明，其使用案例和开发此类技术的公司一直在飞速增长，监管机构，如FDA和EMA已经试图解决其监管和实施问题。由于FDA在采用基于AI/ML的医疗技术方面表现出了领导力，并为基于AI/ML的算法制定了具体的框架，因此选择它作为例子进行进一步分析。

由于这些医疗设备的高风险性，以及使用AI/ML进行医疗决策和数据分析的未知后果，FDA对医疗设备许可有严格的监管要求。基于AI/ML的医疗设备和算法的开发者必须经过严格的流程，耗费时间和资源。这可以说是医学中引入AI/ML的一个关键性障碍。

医疗硬件或软件在美国市场合法上市之前，母公司必须提交给FDA进行评估。对于面向医疗的基于AI/ML的算法，监管机构有三个级别的许可，即510(k)、上市前审批和de novo途径，每个级别都需要满足特定的标准才能获得许可（Table1）。

目前，对审批和实施过程的评估受到了阻碍，因为对基于AI/ML的医疗设备和算法的审批不明确，因为FDA的公告没有明确说明这些方法的使用。此外，FDA网站的搜索引擎不允许用户在FDA公告和摘要中进行特定的搜索查询，从而阻碍了数据库的访问。可以期待监管机构对此类设备进行明确的描述；建立并维护一个清晰的数据库，允许进行适当的搜索查询，以评估新技术的实施情况。FDA与其他监管机构一样，还没有做到这些。

因此，本文的目的有三点：(1)深入了解目前FDA批准的基于AI/ML的医疗设备和算法；(2)建立FDA在这一领域批准的最新数据库，欢迎提交材料，并可能作为FDA应该拥有的数据库；(3)提高监管机构对明确说明医疗设备是否基于AI/ML的重要性的认识。根据这一目的，研究人员对FDA批准基于AI/ML的医疗设备和算法的公告进行了系统的网络搜索，并在FDA.gov上对所有批准进行了交叉检查，最终形成了一个开放访问和可持续扩展的数据库。

2

方法

2.1 无法在fda.gov上进行彻底搜索的原因

对于研究来说，最明显的方法就是查看FDA.gov上的FDA官方数据库，并在摘要或批准书中寻找AI/ML相关术语。FDA的官方网站确实有一个搜索引擎选项，使其所有的公告都可以自由访问。然而，搜索不能根据其内容进行过滤，如批准公告或特定词语。在FDA的搜索引擎上无法以这种方式寻找AI/ML相关术语。

FDA还每月提供510(k)、PMA和de novo类别的批准报告，但这些报告提供的是获批的设备或软件及其公司的基本信息，没有提及其功能。

2.2 数据库采用的搜索策略

对于研究人员的搜索，采用了搜索策略的步骤如下：第一，选择可靠的资源，FDA公告经常出现的地方；第二，利用这些资源确定相关的公告；第三，在fda.gov的搜索引擎中对所有确定的公告进行交叉检查。

对所列网站的公告进行优先排序，仔细检查是否有相关的公告，然后在FDA的网站上交叉检查是否有正式的批准。在公告中，必须关注那些能够指出AI/ML在医学导向的设备或软件中的使用的关键词，这些设备或软件已经被FDA批准。

由于FDA没有将设备标记为基于AI / ML的阈值，因此研究人员的观察结果表明，确定软件程序或设备是否可以被视为基于AI/ML的最合乎逻辑的方法是FDA的正式公告中是否包含任何内容。这些表述中的“机器学习”，“深度学习”，“深度神经网络”，“人工智能”。

尽管如此，研究人员发现，即使可以将基础算法定义为基于AI/ML，也并非所有公告都使用这些术语。研究人员决定也包括这些设备和算法，尽管在数据库中清楚地标记了相关的FDA声明不包含想要的任何表达。取而代之的是，在那些与FDA不相关的公告中添加了相应的URL。

研究人员对2010年1月1日至2020年3月1日之间的时间段进行了搜索查询。随着基于AI/ML的医学技术在2010年代中期开始受到关注，研究人员选择了更长的时间段以避免遗漏重要公告。一旦从这些网站之一中识别出相关的软件程序或产品，其真实性就会在fda.gov上进行验证，并与随附的FDA批准号一起记录在数据库中。

2.3 在线数据库和新公告的提交

经过研究人员的集体投入、交叉检查和验证，创建了一个在线数据库。随着FDA批准新的基于AI/ML的设备和软件，作者将定期更新这个开放访问数据库。

https://medicalfuturist.com/fda-approved-ai-based-algorithms/

该数据库包括每个批准的以下细节：设备或算法的名称；公司名称；简短描述；FDA批准号；FDA批准的类型；公告中提到AI/ML，如果FDA公告中没有提到AI/ML（URL）；批准日期；与之相关的医学专业；与之相关的二级医学专业。

由于研究人员选择使用的搜索策略的性质，有可能错过一些公告。因此，在数据库中增加了提交功能，允许社区提交在搜索结束后发布的新公告，甚至是在最初搜索时可能遗漏的公告。所有社区提交的信息都会经过交叉检查和验证，然后才会被考虑添加到数据库中。

2.4 信息图

为了让大家清楚地了解基于AI/ML的FDA批准的医疗设备和算法的状况；展示这些设备与哪些医疗专业相关，以及它们的数量自2010年以来是如何上升的，研究人员将所有经过交叉检查和验证的设备放在一张信息图中。

信息图中包含了一个设备的名称、简短的描述、它与主要和次要医疗专业的关系以及它获得了什么样的FDA批准。相同的颜色被分配给相同的医疗专业。

3

结果

经过交叉检查和验证的医疗设备和算法

对所有公告进行交叉检查和验证后，研究人员建立了一个数据库，其中有64个基于AI/ML的经FDA批准的医疗设备和算法。研究人员决定在进一步的分析中只纳入29种符合FDA相关官方公告中认为是基于AI/ML技术的设备。对于其他35种设备，除FDA以外的在线来源将其标记为基于AI/ML的技术。在线开放访问数据库中提供了全面的概述。

其他医疗设备和算法

对于这35种医疗设备，尚未通过FDA官方公告确认AI / ML的应用，但已通过其他在线来源确认。

4

讨论

AI/ML时代开始之际，对于医学和科学界来说，清楚地了解哪些医疗技术被认为是基于AI/ML的，以及哪些技术是受监管的，以便了解这些技术如何成为医疗专业人员工具集的要素，这一点尤为重要。研究人员的数据库表明，可以定义将一项技术归类为基于AI/ML的门槛，同时监管机构也有必要建立自己的数据库。

本研究报告的作者希望，这个数据库可以作为监管机构将推出的数据库和将公布的门槛定义的基础。

研究人员的方法有局限性。研究人员旨在确定基于AI/ ML的医疗设备的状态，并遇到了三个初始障碍。(1)选择仅查看受管制的设备，因为公司倾向于过分夸大其技术的重要性，或者为了更多投资而仅使用术语AI和ML。(2)选择查看FDA的批准，因为FDA在规范基于AI /ML的医疗技术方面表现出领导作用，并已发布有关该政策的信息。(3)必须根据可公开获得的信息来源中的主张，确定应考虑什么是基于AI/ML的医疗技术。

尽管旨在维护数据库以及科学界的贡献，但该项目的主要目的是鼓励FDA和其他监管机构对批准的基于AI/ ML的医疗设备和算法提供清晰的概述。

这些障碍也说明了研究人员方法的可能局限性。首先，并非所有基于AI/ML的医疗设备都已获得FDA的批准，因此不得不从数据库中排除许多不受管制的技术。其次，在其他国家/地区，除了FDA的监管范围之外，还有许多基于AI/ML的医疗设备和算法。第三，由于FDA没有维护这样的数据库，不得不设定阈值来评估应将哪些技术视为基于AI的技术。

FDA没有其他用于医疗目的的基于FDA批准的基于AI/ ML的设备和算法的精选数据库。随着这些解决方案越来越适合医疗保健环境，这种易于访问的数据库的重要性将变得更加明显。

尽管旨在维护数据库以及科学界的贡献，但鼓励FDA和其他监管机构接管该数据库或启动自己的数据库。EMA已经提供了有关AI的准则和声明，并且将从此类存储库的添加中受益。随着基于AI/ML的医疗技术在医疗保健中的使用已迫在眉睫，这将帮助那些本地和国际机构以及公众。

随着基于AI / ML的医疗技术获得新的批准，跟踪所有相关公告将变得更加困难。建立并将持续维护的这个开放访问数据库可以为从事类似软件研究或研究目的的有关方面提供参考。因此，有望成为医学和科学界的有用工具。

参考资料

Benjamens, S., Dhunnoo, P. & Meskó, B. The state of artificial intelligence-based FDA-approved medical devices and algorithms: an online database. npj Digit. Med. 3, 118 (2020). 

https://doi.org/10.1038/s41746-020-00324-0