1. 威客安全首页
  2. 安全资讯

Facebook 竞赛结果显示:准确检测深度造假视频的能力尚无人具备

Facebook公布了第一届Deepfake Detection Challenge(深度伪造检测挑战赛)的结果,这是一场算法的公开竞赛,目的是能够发现人工智能操纵的视频。结果虽然很有希望,但显示在自动化系统能够可靠地发现深层造假内容之前,还有很多工作要做,研究人员将这个问题描述为 “未解决的问题”。

Facebook表示,在比赛中获胜的算法能够发现挑战现实世界的深度伪造视频,平均准确率为65.18%,尽管还不错,但这不是你想要的任何自动化系统的准确率。

事实证明,深度伪造视频对于社交媒体来说是一种夸张的威胁。虽然这项技术引发了人们对视频证据的怀疑,但到目前为止,深度伪造视频的政治影响微乎其微。相反,更直接的伤害是非自愿的色情内容产生,这一类内容对社交媒体平台来说更容易识别和删除。

Facebook 竞赛结果显示:准确检测深度造假视频的能力尚无人具备 Facebook 竞赛结果显示:准确检测深度造假视频的能力尚无人具备

Facebook的首席技术官Mike Schroepfer在新闻发布会上告诉记者,他对挑战赛的结果很满意,他表示,这将为研究人员建立一个基准,并指导他们未来的工作。约有2 114名参赛者向比赛提交了35000多个检测算法,测试他们从约10万个短片的数据集中识别深层假视频的能力。Facebook雇佣了3000多名演员来制作这些片段,他们在自然环境中进行对话的记录,有些片段是用人工智能改变的,让其他演员的脸贴到他们的视频上。

研究人员被允许访问这些数据来训练他们的算法,当对这些材料进行测试时,他们产生的准确率高达82.56%。然而,当同样的算法对由未见过的镜头组成的 “黑盒 “数据集进行测试时,它们的表现要差得多,得分最好的模型准确率为65.18%。这表明在野外检测深度造假视频是一个非常具有挑战性的问题。

Facebook目前正在开发自己的深度造假视频检测技术。该公司在今年早些时候宣布禁止Facebook用户发布深度造假视频,但批评者指出,虚假信息更大威胁来自所谓的 “浅层假货”,使用传统手段编辑的视频。本次挑战赛的获胜算法将作为开源代码发布,以帮助其他研究人员,但Facebook表示,将对自己的检测技术保密,以防止其被反向工程。

 

 

(稿源:cnBeta,封面源自网络。)

原文链接:http://hackernews.cc/archives/31109

本站声明:网站内容来源于知道创宇,如有侵权,请联系我们,我们将及时处理。

本文转为转载文章,本文观点不代表威客安全立场。

联系我们

15110186328

在线咨询:点击这里给我发消息

邮件:zhanglei@jinlongsec.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code
X