新的研究表明,使用dall - e2生成人工智能图像在放射学中具有广阔的前景
一篇新论文发表在医学互联网研究杂志描述了生成模型,如dall - e2,一种用于文本到图像生成的新型深度学习模型,如何代表一种有前途的未来工具,用于图像生成、增强和医疗保健中的操作。生成模型是否具有足够的医学领域知识来提供准确和有用的结果?Lisa C Adams博士和同事们在他们最新的题为“DALL-E 2对放射学有什么了解?”的观点中探讨了这个话题。
OpenAI于2022年4月首次推出,DALL-E 2是一种人工智能(AI)工具,因根据文本输入生成新颖逼真的图像或艺术品而受到欢迎。DALL-E 2的生成能力非常强大,因为它已经在互联网上的数十亿个现有文本图像对上进行了训练。
为了了解这些功能是否可以转移到医疗领域来创建或增强数据,来自德国和美国的研究人员检查了DALL-E 2在创建和操作x射线、计算机断层扫描(CT)、磁共振成像(MRI)和超声图像方面的放射学知识。
该研究的作者发现,dall - e2已经学习了x射线图像的相关表示,并显示出文本到图像生成的巨大潜力。具体来说,dall - e2能够基于简短的文本提示创建逼真的x射线图像,但在给定特定的CT、MRI或超声图像提示时,它的表现不是很好。
它还能够合理地重建放射图像中缺失的部分。它可以做更多的事情——例如,只使用一个膝盖的图像作为起点,就可以创建一个完整的全身x光片。然而,dall - e2在生成病理异常图像方面的能力有限。
DALL-E 2生成的合成数据可以极大地加速新型深度学习工具的开发放射学,以及解决与机构间数据共享有关的隐私问题。该研究的作者指出,生成的图像应该由领域专家进行质量控制,以降低不正确信息进入生成的数据集的风险。他们还强调,需要进一步研究,以微调这些模型,以适应医疗数据,并纳入医学术语,以创建强大的模型,用于放射学研究中的数据生成和增强。
虽然DALL-E 2不提供给公众进行微调,其他生成模型喜欢稳定的扩散是,它可以用来生成各种医学图像。
总的来说,这一观点为放射学AI图像生成的未来提供了一个有前景的前景。在这一领域的进一步研究和开发可能会为放射科医生和医疗专业人员带来令人兴奋的新工具。
更多信息:Lisa C Adams等人,DALL-E 2对放射学有什么了解?,医学互联网研究杂志(2023)。DOI: 10.2196/43110