欺骗面部识别，Facebook AI让你在实时视频中隐身

资讯 5年前

606

Facebook AI Research表示，它已经创建了一种机器学习系统，用于对视频中的个人进行去身份识别。

Facebook AI Research表示，它已经创建了一种机器学习系统，用于对视频中的个人进行去身份识别。像D－ID这样的初创公司和许多先前的研究已经为静态图像提供了去识别技术，但这是第一个可用于视频的技术。在最初的测试中，该方法能够阻止最先进的面部识别系统。

使用者无需更改用于自动视频修改的AI，即可将其应用于每个视频。它在人的面部上绘制了一个略微变形的版本，以使面部识别技术难以识别。

一篇解释该方法的论文说：“人脸识别可能会导致隐私丢失，而人脸替代技术可能会被误用于制作误导性视频。有关人脸识别技术的进步和最新的滥用事件引发了对去身份识别方法的需求。这是唯一适用于视频（包括实时视频）的方法，其呈现的质量远远超过了文献方法。”

Facebook AI Research工程师、特拉维夫大学教授Lior Wolf在电话采访中表示，Facebook的方法将对抗性自动编码器与分类器网络配对。作为网络训练的一部分，研究人员试图愚弄面部识别网络。

“因此，自动编码器会设法使人脸识别网络的生活变得更加艰难，而实际上，如果您想产生一种掩盖某人的声音或在线行为的方法，或者删除某些类型的可识别信息，也可以使用该自动编码器，”他说。

像DeepFake软件一样，该AI使用编码器－解码器体系结构生成蒙版和图像。在训练过程中，对应人物的面部会变形，然后馈入网络。随后，系统会生成一个人脸的失真和未失真图像，以将其嵌入视频中。

一位发言人表示，Facebook目前尚无计划将该技术应用于Facebook系列应用的任何部分，但是这种方法仍然可以使公众识别出说话人的声音，而人工智能系统则无法做到。

视频中的匿名面孔也可以用于AI系统的隐私训练。5月，谷歌使用了Mannequin挑战视频来训练AI系统以改善视频深度感知系统。加州大学伯克利分校研究人员的多项研究工作旨在训练AI代理像人一样跳舞或进行后空翻，并使用YouTube视频作为训练数据集。

这项工作将在下周在韩国首尔举行的计算机视觉国际会议（ICCV）上进行介绍。

在此消息发布之前，Facebook首席技术官Mike Schroepfer于本周早些时候宣布，DeepFakes Challenge预览数据集现已可用，而且亚马逊的AWS已成为Facebook和微软上个月发起的DeepFake Detection Challenge倡议的成员。该挑战是为了提高DeepFake检测系统的稳定性。

除了上述工作之外，Facebook成为该领域领导者的愿望可能源于有关其平台被用来传播错误信息以及面部识别技术自身应用的争议。

Facebook在今年早些时候将面部识别作为其平台上的默认设置，目前也正在与一项价值350亿美元的面部识别诉讼进行斗争。本周，该社交网络还向美国的某些用户推出了News应用。