人工智能可能加剧现有的卫生不公平现象为英国的少数民族:新报告

数据驱动技术,人工智能(AI)等强大的工具展示潜力皮肤癌等疾病的诊断和治疗。然而,这些可能会无意中经历的健康不平等恶化少数民族如果目前的挑战,如偏差算法,可怜的数据收集和缺乏多样性研究和开发并不迫切解决的。

这些研究从一个新的白皮书由伦敦帝国理工学院全球卫生研究所的创新(IGHI),要求进一步研究和透明的讨论创建和使用这些技术卫生保健。

白皮书回顾学术文献和政策的证据来确定问题和机会对人工智能和数据驱动技术来改善健康和照顾少数民族民族,他们通常比更广泛的人口健康状况较差,所强调的COVID-19大流行。专家的研究包括一系列的采访在英国和在国际上学术界、工业,国民健康保险制度政策和实践、法律和监管机构、面向病人的组织和慈善机构。

人工智能系统是由结合大量数据,例如从研究或互联网。信息被用来“火车”的计算机程序或算法根据数据做出决策。例如,使用数据,人工智能算法可以创建的风险分数预测哪些患者可能在未来可能患某些疾病。

然而,如果这些数据是典型的少数民族,主要关注,例如白色参与者,那么这些系统更容易做出决定不包括多样化的社区。

报告提出了这方面的证据在AI种族偏见,演示如何将少数民族缺医少药的技术。例如,面部识别系统显示是19%不准确识别图像的黑人男性和女性相比,白色的个人。使用时,这样的偏见也在AI等健康状况的检测和治疗皮肤癌。图片白色的病人主要是用来训练算法发现黑色素瘤这可能导致更糟糕的结果通过错过了黑人的诊断。

作者认为无意识和有意识的偏见在人工智能部分是由于缺乏多样性在学术界,在AI开发者和战略层面的卫生系统和政府。

专家接受采访报告还表示担忧,缺乏多样性的AI的劳动力可能会导致解决方案不能完全代表所有用户的需求。报告建议,改善表示在这个行业必须走得更远比解决招聘流程。相反,这个问题也应该解决所有阶段从小学教育到研究生水平。

作者强调良好实践的例子看到在健康和社会保健在英国和美国,提出行动承担在学术界,在AI开发者和战略层面的卫生系统和政府努力开发一个系统,促进了更具代表性的人工智能技术的发展,设计时考虑到股票。在国家层面,正在采取进一步行动来应对这些卫生保健方面的不公平现象。政府最近宣布了两个独立的评论,出版后“升级”白皮书,解决健康差异,包括审查的健康影响医疗设备潜在的偏见。

博士Saira Ghafur、数字健康导致全球健康研究所的创新,说:“人工智能医疗系统交付有着巨大的潜力。然而,我们的白皮书显示它如何会加剧现有的卫生不公平现象在少数民族。工作在政府、医疗和技术部门,它是至关重要的我们确保没有人留下。”

主James O ' shaughnessy全球卫生创新研究所的客座教授,说:“解决卫生不平等是我们这个时代面临的重大挑战之一。人工智能和机器学习的进步给我们的新工具来应对这一挑战,但我们的热情也必须考虑的现实评估这些技术的风险无意中延续的不平等。

“这篇论文解释了这些风险可能显化,使具体的建议关于如何减轻他们。决策者应该注意报告的经验,这样的计算机科学的进步可以受益最需要它的人。”

基于这项研究,科学家们提出一系列的建议,以更好地为少数民族社区使AI。这些包括:

• 涉及患者和公众的人工智能技术在各领域的发展。
• 创建治理系统、法律法规在人工智能保护数据和公民的权利。
• 开发一个监管框架,以确保算法测试和适合少数民族,以减少偏见的数据集。

Ara Darzi教授,全球卫生创新研究所的主任,说:“我们的新白皮书识别一些重要的未来考虑最大化的AI的潜力健康我们的整个国家。我们希望我们的报告可以重要谈话的催化剂,需要随着我们越来越多地使用人工智能医疗。”