你的大脑是更好的比你deepfakes打散

尽管观察员不能有意识地识别真正的区别和假面孔,他们的大脑可以,悉尼大学的研究表明。

当谈到deepfakes,如果能区别欺诈事实呢?悉尼大学神经科学家已经发现了一种新方法:他们发现,人的大脑可以检测AI-generated假脸,即使人们无法报告面临的是真实的,哪些是假的。

Deepfake视频、图像、音频、文本似乎是真实的,但实际上是计算机生成的克隆旨在误导你,影响公众舆论。他们是新的步兵在虚假信息的传播和rife-they出现在政治、网络安全、伪造和边境控制领域。

例如,在2016年,俄罗斯巨魔农场部署50000多机器人在Twitter上,使用deepfakes作为头像照片,试图影响美国总统选举的结果。一些研究显示他们可能提振了唐纳德·特朗普的选票超过3%。最近,一个deepfake之上的视频Zelensky敦促他的部队在Twitter上向俄罗斯军队投降浮出水面,Facebook和YouTube,使得人民对战争的理解乌克兰与潜在高风险的影响。

当观察参与者的大脑活动,悉尼大学的研究人员发现deepfakes可以确定54%的时间。然而,当参与者被要求口头确定deepfakes,他们只能做这37%的时间。

“尽管本研究大脑准确率很低——54%——这是统计学上可靠,”高级研究员副教授托马斯·卡尔森说,悉尼大学的学院的心理学。

“告诉我们大脑可以deepfakes和真实图像之间的区别。”

发现机器人和诈骗

研究人员说他们的发现可能在对抗deepfakes提供了一个跳板。

“事实上,大脑可以检测当前deepfakes deepfakes意味着缺陷,”卡尔森副教授说。“如果我们能够了解大脑如何deepfakes,我们可以使用这些信息来创建算法国旗潜在deepfakes Facebook和Twitter等数字平台”。

更远的未来,他们的项目技术,基于他们和类似的研究中,可以创建实时提醒人们deepfake诈骗。例如,安全人员可能穿EEG-enabled头盔可以提醒他们,他们可能面临deepfake。

脑电图(EEG)测试,揭示了大脑的表层,并用于研究人员的研究。

卡尔森副教授说:“EEG-enabled头盔可以有助于防止近期银行抢劫和公司欺诈案件在迪拜和英国,骗子利用克隆的声音技术窃取数千万美元。在这些情况下,财务人员认为他们听到一个可信的客户或关联的声音,被骗进转移资金。”

方法:眼睛和大脑

研究人员进行了两个实验:一个行为,一个用神经影像。在行为实验中,参与者被显示50个真实的图像和计算机生成的假脸。他们被要求识别哪些是真的,哪些是假的。

然后,另一组参与者显示相同的图像,而他们的大脑的活动使用脑电图记录,不知道图像的一半都是伪造的。

然后,研究人员将两个实验的结果,寻找人的大脑在检测deepfakes更好比他们的眼睛。

一个起点

研究人员警告说,鉴于这一领域的新颖的研究,他们的研究发表在视觉研究,只是一个起点。它不会立即或潜在是否会使检测deepfakes的简单方法。

卡尔森副教授说:“必须做更多的研究。是什么给了我们希望deepfakes由计算机程序,而这些程序能被探测到的“指纹”。

“我们的发现大脑的deepfake-spotting权力意味着我们可能会有另一个工具来反击deepfakes和虚假信息的传播。”

---

---