消除医疗保健人工智能的偏见对改善卫生公平至关重要

人工智能(AI)驱动的医疗保健有可能改变医疗决策和治疗，但这些算法必须经过彻底的测试和持续监测，以避免对患者造成意想不到的后果。

在一个JAMA网络开放受邀评论，Regenstrief研究所总裁兼首席执行官，印第安纳大学医学院信息学和卫生服务研究副院长Peter Embí，医学博士，M.S，强烈陈述了算法预警对解决医疗保健算法及其部署中固有偏见的重要性。算法警戒(algorithmovigance)是Embí博士创造的术语，可以定义为与评估、监测、理解和预防算法在医疗保健中的不利影响相关的科学方法和活动。

Embí博士说:“在没有首先确保疗效和安全性的情况下，我们不会考虑用一种新的药物或设备来治疗患者。”“同样，我们必须认识到算法既有巨大的好处，也有巨大的危害，因此需要研究。此外，与药物或设备相比，算法通常具有额外的复杂性和变化，例如如何部署，谁与它们相互作用，以及与算法相互作用的临床工作流程。”

这篇评论是对IBM科学家的一项研究的回应，该研究评估了不同的方法来消除为预测产后抑郁症而开发的医疗保健算法的偏见。Embí博士表示，该研究表明，去偏见方法可以帮助解决用于开发和部署人工智能方法的数据中所代表的潜在差异。他还说，这项研究表明，对这些算法的有效性和公平性进行评估和监测是必要的，甚至是道德上的要求。

“随着部署不同的数据、不同的设置和不同的人机交互，算法性能会发生变化。这些因素可能会把一个有益的工具变成一个造成意外伤害的工具，因此必须不断评估这些算法，以消除我们医疗保健系统中存在的固有和系统性的不公平。”Embí博士继续说道。“因此，我们必须继续开发工具和能力，在算法的开发和使用中实现系统的监视和警惕医疗保健．"

---

---