资讯 业界
此为临时链接,仅用于文章预览,将在时失效

AI 大毒瘤:96% 的 Deepfakes 视频涉及色情,还搅动多国政局

作者:伍文靓
2019/10/15 14:33

Deepfakes 已经让“眼见为实”成为过去;至少在视频方面是如此。

近日,Deeptrace 公司发布了一份关于 Deepfakes 现状的报告,分享了迄今为止人们对 Deepfakes 最全面的了解以及其对现实世界的影响。

Deeptrace 是一家位于阿姆斯特丹的网络安全公司,自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道:

无论是视频音频,还是文本,我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。

以下是雷锋网对这份报告的整理:

AI 大毒瘤:96% 的 Deepfakes 视频涉及色情,还搅动多国政局

自 2017 年晚些时候出现以来,Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果,以及对社会的消极影响而广为人知。

然而,Deepfakes 在今年的发展尤其迅猛。报告数据显示,今年网络上 Deepfakes 视频的数量迅速增长,截至目前为 14678 个,是去年 12 月份(7964 个)的一倍。

在所有的 Deepfakes 视频中,绝大多数视频都涉及色情内容,只有极少一部分视频属于非色情内容,两者的比例分别为 96% 和 4%;而且,在最受欢迎的四大色情网站上(2018 年至今),关于 Deepfakes 的视频观众已经超过 1.3 亿人。

不过,值得注意的是,非色情的 Deepfakes 视频也越来越受欢迎。

具体到受害人(被换脸的目标)的性别、国籍和职业等方面,这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计:

Deepfakes 的商业化

2017 年 11 月 2 日,一名 Reddit 用户创造了 Deepfakes,随后这项技术传遍全球。现在,随着相关论坛、工具和服务的出现,Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力,它们为换脸视频创作者提供了探讨交流的平台,也为创作者之间的合作提供了便利。

Deeptrace 的报告发现,目前,包括 Reddit、4chan、8chan、Voat 在内,关于 Deepfakes 视频创作的社区和论坛有 20 个;其中,有 13 个论坛披露了自己的用户数量,总人数大概在 10 万左右;在这 10 万个用户当中,有 4000 多个用户拥有特权。

AI 大毒瘤:96% 的 Deepfakes 视频涉及色情,还搅动多国政局

Deepfakes 的商业化不仅体现在社区和论坛上,还有新的电脑 App 和服务。不过,就电脑 App 而言,需要使用者具有编程知识以及强大的图形处理器;但由于“手把手教学”式的使用指南的问世,这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务,费用则取决于视频的使用目的以及制作的难度。

Deepfakes 的危害和影响

波士顿大学法学教授 Danielle Citron 曾表示,“Deepfakes 已经成为了攻击女性的武器。"

这是 Deepfakes 最大的危害之一——Deefakes 色情视频里的受害者大多是英美两国的女演员,以及韩国的女歌星,出现频率最高的十位人物(雷锋网按:为了保护这些女性,该报告并没有透露她们的姓名)的总观看人数超过 3000 万;其中出现频率最高的为英国的一位女演员,她一共出现在 257 个 Deepfakes 色情视频中。

AI 大毒瘤:96% 的 Deepfakes 视频涉及色情,还搅动多国政局

Deepfakes 技术在政治方面的影响也不容忽视。CNAS 技术与国家安全项目主任 Paul Scharre 曾警告:

Deepfakes 具有极大的破坏性,利用它来操控选举只是时间问题。

上述两个例子都是 Deepfakes 破坏政治进程最有力的迹象;除此之外,还有许多因 Deepfakes 而受影响的政治问题。如果没有防御性对策,世界各地民主政体的完整性就会受到威胁。

然而,Deepfakes 对政治领域的影响不仅仅局限于恶意和欺骗,它甚至还催生了一种有关政治讽刺的艺术形式。包括 Mark  Zuckerberg,  Kim  Kardashian 和 Donald Trump 在内的公众人物可能被“操控”,说出自己“违心”的话;这也引发了人们对政治以及社会问题的谈论和深思。

除了政治,Deepfakes 在社交媒体上的恶意应用也开始出现,并且正在影响网络安全格局,比如制作虚假数字身份,以进行欺诈或者是间谍活动。

雷锋网小结

总的来说,Deepfakes 的危害和影响已经蔓延全球。而且,从目前的趋势来看,Deepfakes 背后庞大的受众群体以及灰色的利益链,也让消灭其带来的负面影响变得更加困难。

不过,技术本身无罪,怕就怕在“科技不能向善”。

长按图片保存图片,分享给好友或朋友圈

AI 大毒瘤:96% 的 Deepfakes 视频涉及色情,还搅动多国政局

扫码查看文章

正在生成分享图...

取消
相关文章