人们对人工智能建议的干预措施不太信任,对人类健康专家的相同建议更开放
新加坡南洋理工大学(NTU Singapore)领导的研究人员发现,与人类健康专家建议的相同干预措施相比,人们对人工智能(AI)建议的预防保健干预措施的信任度更低。
预防性护理干预是旨在降低风险的活动健康,例如进行健康检查、增加体育活动和接种疫苗。
研究了15000名健康用户移动应用程序在韩国,研究人员发现,强调人类健康专家参与人工智能的建议干预可以提高其接受度和有效性。
这些发现表明,人的因素仍然很重要卫生保健部门越来越多地采用人工智能来更有效地筛查、诊断和治疗患者。研究人员说,这些发现还有助于设计更有效的人工智能引发的预防保健干预措施。
南洋理工大学南洋商学院(NBS)的助理教授Hyeokkoo Eric Kwon领导了这项研究,他说:“尽管人工智能为了提供更高质量的干预措施,我们发现,与他们认为基于人类专家意见的干预措施相比,人们对人工智能建议或源自人工智能的卫生干预措施的信任度较低。我们的研究表明,即使健康干预越来越多地由人工智能指导,与情绪和态度有关的情感人类因素仍然很重要,而且这种技术在补充人类而不是取代人类时效果最好。”
这项研究反映了南洋理工大学在NTU2025年的努力,该大学的五年战略计划旨在解决人类面临的重大挑战,如技术对人类的影响。这项研究由南洋理工大学NBS在商业和医疗保健技术的交叉点进行,也突出了南洋理工大学的实力和重点跨学科研究.
研究结果发表在该杂志的一篇文章中生产经营管理,与新加坡国立大学助理教授Nakyung Kyung共同撰写。
以人为本的健康干预接受度更高
为了研究用户对人工智能(AI)提出的预防性健康干预措施和人类提出的预防性健康干预措施的看法,研究小组在韩国一款移动健康应用程序(app)上招募了9000名用户。
通过这款应用,这些用户会收到一个弹出的通知,鼓励他们走特定的步数,这是由人工智能算法为每个用户生成的。然后,该应用程序测量了选择采取这种健康干预措施的用户所走的步数。
对于人工智能建议的干预组中的3000名用户,他们的弹出通知写道:“人工智能建议你在未来七天内步行(个性化的步数目标)。你愿意参加吗?”另有3000人在人类建议的干预中收到了一条通知,上面写着:“健康专家建议你在未来七天内步行(个性化的步数目标)。你愿意参加吗?”
一个对照组3000名用户接受了中立干预,既没有提到人工智能,也没有提到健康专家。
在接受人工智能建议的干预的用户中,19%的人接受了干预。这一组中大约10%的人在一周结束时实现了他们的个性化步数目标。在接受人工建议干预的小组中,更多的用户接受了干预(22%)并实现了他们的目标(13%)。
提高人工智能建议的干预措施的有效性
研究小组随后将研究范围扩大到另外两组,每组3000人使用同一款手机应用。
其中一组接受了一项干预措施,披露了与卫生专家一起使用人工智能的情况。另一组接受了解释人工智能如何产生干预的干预。
与纯人工智能建议或人工建议的干预措施相比,用户更接受显示人工智能如何用于补充健康专家意见的健康干预措施(27%)。在这一组中,19%的人实现了个性化的步数目标。
对于如何使用人工智能来生成个性化步骤目标的透明也导致了更高的录取率(21%)。在这组人中,13%的人实现了他们的目标。
虽然这项研究是在预防保健的背景下进行的,但研究人员认为,他们的发现可以应用于情感信任发挥重要作用的其他背景,如旅行、教育、法律和保险服务。