资讯 人工智能开发者
此为临时链接,仅用于文章预览,将在时失效

Facebook千万美金启动AI换脸"打假"竞赛,完整数据集12月份发布

作者:杨鲤萍
2019/09/09 17:57

雷锋网 AI 开发者按:在 AI 换脸技术饱受各界质疑当儿,社交巨头 Facebook 宣布投入超过1000万美元打造deepfake (一种流行的AI换脸技术)检测竞赛,以便创建能用于“打假”模型训练的数据集。据官网介绍,竞赛结果与完整数据集将于今年12月份举行的 NeurIPS 会议上公布。

雷锋网 AI 开发者将赛事介绍编译如下。

Facebook千万美金启动AI换脸

目前,竞赛官网已正式上线:https://deepfakedetectionchallenge.ai/

数据集和基准是加速人工智能发展的最有效工具。我们目前在深度学习方面的复兴在一定程度上是由ImageNet  benchmark所推动的。GLUE 和SuperGLUE  benchmark加速了自然语言处理的进展。

“deepfake”技术能够呈现人工智能生成的逼真视频,用虚构出来的人做和说看起来真实的事情,对确定网上呈现的信息的合法性具有重要意义。然而,这个行业并没有一个很好的数据集或benchmark来检测它们。我们希望促进这一领域的研究和开发,并确保有更好的开源工具来检测deepfake。这就是为什么Facebook,微软,以及来自康奈尔科技,麻省理工,牛津大学,加州大学伯克利分校,马里兰大学,学院公园,和奥尔巴尼大学苏尼分校的学者们一起建立了“deepfake检测挑战赛”(Deepfake Detection Challenge,DFDC)。

这项挑战的目标是开发出一种每个人都可以使用的技术,它可以更好地检测人工智能何时被用来篡改视频,误导观众。DFDC将包括一个数据集和排行榜,同时还会有拨款和奖励,以刺激行业创造新的方式来检测出并防止被人工智能操纵的媒体用来误导他人。人工智能和媒体诚信指导委员会的伙伴将促进和监督这一挑战赛,该委员会由一个广泛的跨部门组织联盟组成,包括Facebook、Witness、Microsoft和民间、技术界的其他组织、媒体和学术团体。

Facebook千万美金启动AI换脸

最重要的是要有可供社区免费使用的数据,并有足够的参与者,而且在使用上不能有很多限制。这就是为什么Facebook正在构建一个现实的数据集,参与者将可以免费使用,并为这一挑战做出贡献。此数据集中不会使用Facebook用户数据。为了鼓励更多参与,我们还设立了研究合作和挑战奖。总的来说,我们将投入超过1000万美元来支持这项全行业的努力。

为了确保数据集和挑战参数的质量,这些参数将在今年10月的国际计算机视觉会议(ICCV)上,通过有专业的技术工作会议进行初步测试。完整的数据集和DFDC的发布将在今年12月的NeurIPS会议上进行。Facebook也将参与挑战赛,但不接受任何经济奖励。请访问我们的网站(https://deepfakedetectionchallenge.ai/)以获取定期更新。

和垃圾邮件以及其他挑战一样,这是一个不断演变的问题,我们希望将行业和人工智能社区的力量结合在一起,取得更快的进展。

(via https://ai.facebook.com/blog/deepfake-detection-challenge/

Facebook千万美金启动AI换脸

9 月 4 日,据国外媒体报道,Facebook 宣布整改,将停止在用户的照片和标签建议中默认使用面部识别功能。在本周发表的一篇博客文章中,Facebook 表示,注册的新用户和那些开启了标签建议设置的用户将会收到一份关于该平台如何使用人脸识别这项技术的通知。

Facebook 这一举动的背后,反应出的正是大众对个人隐私的重视;类似的还有近来的「zao」事件、人脸识别课堂考勤、换脸 FakeSwap 开源等。不断革新的技术就像一把双刃剑,它们给生活带来便利的同时,也为个人隐私带来了一定困扰。

不过可喜的是,从大众对这些事件的回应来看,我们能感受国民隐私意识的觉醒。那么,针对隐私保护,个人、企业、国家能做什么呢?特此,雷锋网 AI 开发者将隐私保护相关事件以及技术防范措施整理编辑如下。

脸可换,隐私不可侵

前几天的「ZAO」一经发布,就得到了超高的反响,朋友圈到处都是「欢乐的换脸生活」。这款 APP 可以将用户上传的人脸,和影视作品里的明星脸无缝切换。可没过多久,便有人发现「ZAO」背后的重重隐患。

首先是「ZAO」的霸王条款。在 APP 使用协议中,「ZAO」规定:

总之就是一经上传,照片中的人立即失去肖像权;不仅可供「ZAO」免费使用,而且还能无条件任意修改。要是你用的是别人的脸,比如明星什么的,那还都是你的责任,「ZAO」依旧可以无条件免费使用与修改,甚至是随意授权给第三方,作为信息贩卖。

Facebook千万美金启动AI换脸

而「ZAO」这一设定,正是抓住了我们通常因为嫌麻烦,而不会仔细阅读「协议条款」的心理,才让它抱着一种侥幸心理,大肆侵犯我们的个人隐私。不过也正是因为关乎隐私,「ZAO」因该用户协议涉嫌过度收集用户信息、及隐私安全争议,被工业和信息化部网络安全管理局约谈,并要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规手机使用用户个人信息,规范协议条款。

「ZAO」运营团队随即也发布了致歉声明,并表示「ZAO」不会存储个人面部生物识别特征信息;并且用户删除信息或注销账号,「ZAO」均会依据相关法律法规的规定删除相应信息。

数据时代,隐私由谁守护?

由数据引发的隐私问题还有人脸识别监管、浏览器记录数据、数据人肉等等,甚至现在连逛淘宝店,都可能泄露我们的电话信息,而收到垃圾短信。因此有部分人调侃到:大数据时代无隐私。

政府部门的强有力监管,企业的积极配合,个人的道德规范;都能够在一定程度上加强对个人隐私的保护。

Fecebook此次重金投入换脸技术检测竞赛,无非也是想让我们在数据隐私上能够掌握更多的主动权。

当然除此之外,我们也可以从技术方面来有意识规避隐私侵犯,从而维护个人的安全。

Facebook千万美金启动AI换脸

比如大数据分析共享方面,我们不要忽视隐私基准评估、隐私数据识别、数据监控扫描、数据加密、安全存储,通道加密、传输行为审计,数据脱敏,数据锁等多方面工作,从而可以从隐私数据的红线、网络行为模型、实时监测等方式来更好地维护隐私安全。而在数据加密上,目前也有多种技术,包括:传统的 DES/AES 对称加密技术、同态加密隐私保护技术、差分隐私保护技术等。

其中,同态加密的核心是能够直接在密文上做运算,在机器学习和深度学习过程中使用同态加密对数据加密然后分析计算,能够很好地解决许多领域要求数据保密、安全的问题。差分隐私的任务则是提供一种关于输出的概率分布的机制或者协议,允许用户对数据进行一定程度的修改,但不影响总体输出,从而使得攻击者无法知道数据集中关于个人的信息,达到隐私保护的作用。

Facebook千万美金启动AI换脸

在这个「没有秘密」的时代,尽管我们无法左右数据革新浪潮;但是我们可以更加谨慎地去维护属于我们的合法隐私权益。

雷锋网 AI 开发者

长按图片保存图片,分享给好友或朋友圈

Facebook千万美金启动AI换脸"打假"竞赛,完整数据集12月份发布

扫码查看文章

正在生成分享图...

取消
相关文章