研究概述人工智能聊天机器人如何能被批准为医疗设备

LLM-based生成聊天工具,如ChatGPT或谷歌MedPaLM有伟大的医学的潜力,但也有固有风险与不使用在卫生保健有关。一个新的自然医学纸由斯蒂芬·吉尔伯特教授和他的同事地址我们这个时代最紧迫的国际问题之一:如何监管大型语言模型(llm)一般来说,特别是在健康。

“大语言模型神经网络语言模型的会话技能。他们产生类似人类的反应和参与互动的对话。然而,他们经常产生高度令人信服的语句可证实地错误或提供不适当的反应,”斯蒂芬·吉尔伯特教授说,其他医疗器械监管科学教授克朗费森尤斯公司数字健康中心你德累斯顿。

“今天没有办法一定质量,证据级别,或临床信息或证据的一致性对于任何响应。这些聊天机器人是不安全工具在医学上的建议和需要开发新的框架确保患者安全。"

监管部门批准的大型语言模型的挑战

大多数人寻求之前在线研究他们的症状医学上的建议。搜索引擎在决策过程中发挥作用。即将到来的LLM-chatbots融入搜索引擎可能会增加用户的信心谈话聊天机器人,模拟给出的答案。已经证明llm可以提供极其危险的信息当提示与医疗问题。LLM的基本方法没有模型的医疗“地面实况,”,这是很危险的。

聊天界面的llm已经提供有害医疗反应和已经使用不道德不同意“实验”患者。几乎每一个医疗LLM用例需要监管控制在欧盟和美国在美国缺乏explainability失去资格,他们从“非设备。”LLMs with explainability, low bias, predictability, correctness, and verifiable outputs do not currently exist and they are not exempted from current (or future) governance approaches.

本文作者描述有限的场景llm能找到应用程序在目前的框架下,他们描述开发人员可以寻求创建LLM-based工具,可以批准医疗设备,他们探索新框架的开发保护病人安全。

“当前LLM-chatbots不满足人工智能的关键原则卫生保健,explainability像偏压控制系统的监督、验证和透明度。获得他们的位置在医疗医疗设备,聊天机器人必须设计的准确性,安全性和临床疗效证明和获得监管机构批准,”吉尔伯特教授总结道。