AG 尊龙凯时：微软Facebook出手了！作恶工具Deepfakes会就此灭亡吗？

2024-12-06 07:31:01

消息，2019 年 9 月 5 日，Facebook CTO Mike Schroepfer 公布了一篇博文宣告，Facebook 于是以与微软公司以及多所大学牵头研究检测 deepfakes 的方法，甚至投放了 1000 万美元来发动竞赛，鼓舞检测研究的发展。由 Deepfakes 产生的“凶”2017 年，一名 ID 为 Deepfakes 的网友在 Reddit 网站上载了一段换回脸视频，并在之后上载了一系列类似于的视频；由于换回脸视频牵涉到色情内容，并且侵害了他人的隐私，引发了险恶的反响。

最后，Reddit 官方将 Deepfakes 封号。而作为背叛，Deepfakes 也将换回脸视频的 AI 代码免费公开发表，从此，Deepfakes 视频像病毒一样蔓延到全球，无论是明星还是政客，都有可能被“换回脸”。出于人们对这项技术的反感忧虑，Deepfakes 在一定程度上遭了抨击。虽然，Deepfakes 经常不会被用作戏仿视频里，而且人们也实在无伤大雅；但是，如果经常出现在政党竞选领域，也许就另当别论了——有专家回应，在 2020 年美国总统大选之前，也许不会有更加多关于政客的 Deepfakes假新闻经常出现。

就目前而言，美国还没引起根本性政治后果的 Deepfakes 换回脸视频，但最近网上流传出有一段劣质的有关美国众议院议长 Nancy Pelosi 的视频片段，视频片段中 Nancy Pelosi 的演说被人为降速，让她看起来含混不清，造成了负面影响。更加最重要的是，用于该技术的成本在显得越来越低。网络上有一些团队正在研发制作非常简单 Deepfakes 视频的市场；甚至在 YouTube 上载指导教程，教教人手把手制作 Deepfakes 视频，再行缴纳一定的费用；也有一些自助服务网站可以协助分解 Deepfakes 视频。

前两天翻轰朋友圈的换回脸 app ZAO 堪称大大降低了人们感觉这项技术的门槛——不必须 P 图技术、不必须代码科学知识、不必须专业设备；仅有必须一部手机，一张照片，就能较慢分解换回脸视频；效果细致，动作简洁。而且，一旦用户上载自己的照片，并且表示同意该软件的用户协议和隐私协议，肖像权隐私权就有可能面对着极大的风险。众人拾柴火焰高正如开篇所提及的，针对 Deepfakes 带给的恶劣影响，众多机构早已开始行动。Facebook 早已牵头学术和企业两个领域的力量，联合研究以低成本的方式检测出有 Deepfakes 视频的方法。

(公众号：)了解到，项目的参与者还包括康奈尔科技校区（Cornell Tech）、麻省理工学院（MIT）、牛津大学（University of Oxford）和伯克利大学（UC Berkeley）等；非营利性研究的组织 Partnership on AI 也参予其中，该的组织的成员有 Google 、苹果、亚马逊、IBM 等大型科技公司。Facebook 的声明中还援引了来自多个大学的教授的话；其中，纽约州而立大学工程与应用科学学院的吕思伟教授说：虽然 Deepfakes 视频看上去有可能很细致，但它们却是是由算法分解的，而不是由摄像机捕捉的现实事件；这意味著它们依然可以被检测出来。一些有前景的新方法可以找到和减低 Deepfakes 的危害影响，还包括在视频素材中加到“数字指纹”以协助检验其真实性。除此之外，解决问题这个问题还必须技术人员、政府机构、媒体、公司和每一个在线用户共同努力。

作为该项目的一部分，Facebook 还投放了 1000 万美元来发动竞赛，竞赛将从 2019 年末开始，到 2020 年春季完结；预计还将有一个排行榜，用来审定 Deepfakes 检测系统的能力。从或许上来说，发动竞赛称得上一种明智之举，可以鼓舞研究人员以及业余爱好者找寻解决方案。不过，与所有有关于人工智能的问题一样，Deepfakes 视频的检测也牵涉到到大量的数据和训练。

因此，Facebook 也不会委托研究人员分解细致的 Deepfakes 内容，通过这些内容分解数据集，以便于测试检测工具的效果。与此同时，Facebook 也回应，这些视频将邀收费的演员参演，会用于用户的数据。这些视频数据也将于今年 10 月举办的国际计算机视觉会议展开可行性测试，并于 12 月在温哥华举办的 NeurIPS 会议期间公开发表公布，以便于参赛者采访。压制 Deepfakes 道阻且宽尽管 Facebook 对其计划十分有信心，但想解决问题 Deepfakes 的问题也并非易事。

Facebook 首席技术官 Mike Schroepfer 在拒绝接受记者专访时说，人们有许多方法可以检测 Deepfakes 视频，比如通过视频中一些怪异的阴影形态和不大自然的视觉效果。但随着 Deepfakes 背后的技术很快发展，检测也显得更加艰难。得知，一些研究人员正在打造出一个通过数字水印检验视频或图像真实性的系统，然而，Deepfakes 技术的很快发展，让 Deepfakes 视频制作者和检测人员之间进行了一场军备竞赛。纽约大学坦登学校计算机工程助理教授 Siddharth Garg 回应，“这就像一场猫鼠游戏，如果我们设计了一个 Deepfakes 的检测器，就相等给了黑客一个新的模拟器展开反测试。

”另外，从检测系统本身来看，当一个系统早已“看完”完整视频时，显然需要只能地从假视频中找到变化，从而检测出有 Deepfakes 视频；但如果抱有蓄意演员蓄意录音视频，然后对其展开处置，那么对于人工智能系统而言，这个视频就是“完整视频”，没可以参照的标准，也就无法找到其中不存在的问题。Mike Schroepfer 回应，Facebook 早已尝试了各种检测方法，但期望这次比赛需要产生更为精致的方式。值得一提的是，Deepfakes 最初被用作编造以女性演员为对象的色情内容，然而，Facebook 在其声明中援引了 7 位学术嘉宾对 Deepfakes 的评论，其中未还包括女性。这一点在 Twitter 上引发了普遍的辩论。

小结总的来说，需要看见学术界和企业牵头一起研究解决问题 Deepfakes 的涉及问题，不堪称不喜闻乐见。尽管，人们在这条路上还不会看见挑战和艰难不断涌现，但正如 Facebook 在其声明中所言，此次的行动是“迈进了有意义的一步”。原创文章，予以许可禁令刊登。

下文闻刊登须知。

本文来源：AG 尊龙凯时-www.meiketu.com