商业社会,弄虚作假屡见不鲜。而近日一家西班牙创业公司身上发生的一次利用 AI 造假事件,让那些融资、业绩、财务数据造假在创新性上都黯然失色。
互联网国际象棋棋盘制造商 REGIUM 疑似使用 GAN 合成了四个虚拟工程师,以下六人图中,只有 Delgado 和 Balcells 两人确有其人。
除了制造“人造人”,这家公司的主打产品——自动国际象棋棋盘,也被多个网络知名国际象棋社区产品扒出产品、视频造假,目前公司在众筹网站 Kickstarter 的项目已被暂停。
REGIUM 是一家位于西班牙的互联网国际象棋棋盘制造商,2019 年 12 月,他们在 YouTube 上发布了一款叫作 REGIUM 的棋盘演示视频,开始获得象棋圈子的关注。
按照同类硬件创业公司的套路,REGIUM 一边上众筹网站 Kickstarter 众筹,另一边也在网络知名国际象棋社区 Chess.com、Chess24.com 打广告,宣传产品。
雷锋网注意到不少论坛用户对此表示期待,从它 2 月底在 Kickstarter 开展众筹,截至 3 月 2 日被叫停,不到 10 天,获得 58 位支持者,33111 美元筹款。
但也就是上月开始,该团队逐渐被产品造假、视频造假等议论包围。YouTube 上播放量超 4 万的产品介绍视频,率先引发了象棋玩家对这家公司的质疑。
REGIUM 称,他们的自动棋盘是高科技棋盘,用到了 AI、自动跟踪技术等,用户移动棋子是快速、无声的,可以将棋盘状态与各种在线象棋 APP 同步,与人远程下棋,还能实时载入更多棋类游戏。
据雷锋网了解,它的原理是棋盘每个坐标点装上固定电磁铁,连接着 APP,用户可以通过手机操纵对应的棋子。事实上,这也不是第一个电子棋盘。在此之前还有过一款名叫 Square Off 的类似产品。
在线象棋平台 Lichess 的开发者率先对视频提出质疑:棋子在棋盘上自动移动的镜头很可能是使用定格动画制作软件 stop motion 做的。破绽出在骑士这个棋子在视频不同处总是发生变化,其实就是背景在骑士被挪动后出现的空缺。另外,整个视频中完全没有真人玩家入镜,对方分析是一旦有人入镜,那么下一帧很难与上一帧保持一致。
REGIUM 对此的回应是,公司根本不擅长制作视频,拍摄视频时出现了一些问题,于是才后期编辑处理了下。据称,他们给一些质疑者用手机录了一段完整的未经处理的视频。
而随后,Chess.com 表示,可能不仅是视频,产品也是虚假的。商业发展部主任 Nick Barton 调查后表示,展示视频中的棋盘是由西班牙一家有 50 多年历史的棋盘制造商 Rechapados Ferrer 制作的,该公司一位负责人表示,视频中的棋盘看得出并未再加工,而当前的组件并不支持视频所展示的技术。
目前 Chess.com 和 Chess24.com 都已发帖宣布终止与 REGIUM 的商务合作。
视频、产品存疑,还赶上众筹,象棋网友继续挖,然后发现这个公司的开发团队成员的脸都是假的!
雷锋网了解到,官网“About US”菜单列出了 6 位工程师的照片、名字和头像,Chess.com、Chess24.com、Lichess.org 三家考证表示,其中大概只有两个是真人,其余 4 位很有可能是用 GAN 生成的人造人,用的就是 this person does not exist.com 这个网站的功能。一个侧面印证是,图片信息都是 1024x1024,96dpi,24 位,jif 格式,缺少任何标题信息。
this person does not exist.com
Chess.com 采访了网站的创始人 Phil Wang,他认为那四个人的照片存在失真,具有 GAN 生成的人造人照片的特点。“根据我的经验,眼镜周围扭曲失真,背景也有点假,我还看出来他们似乎用了英伟达的模型。”另外,他还指出,这些人的照片在互联网其它任何地方都搜索不到。
在被曝光后,REGIUM 官网已删除 6 位工程师照片( 查看存档的副本 https://web.archive.org/web/20200223191142/https://regiumchess.com/about.html),似乎更印证了他们的心虚。
而 REGIUM 在发给外媒 Motherboard 的电子邮件中否认了这些说法,他们辩解称是因为受到各种非议,成员担心职业生涯受到影响才撤下照片。但除此之外,并未提供任何证据能证明其开发人员是真实存在的人。
this person does not exist.com 是海内外小有名气的造脸网站,使用也非常简单,点击进入,每次刷新都会生成一张可能路人甲也可能漂亮的脸蛋,但是他/她根本不存在于世界上。
有网友形容该网站是,“很有趣,但没有什么用”。大多数人打开它确实也就是图个新鲜,但没想到有公司竟然想出如此“创意”的想法。
现在,我们一起从互联网的记忆中检索一下。2015 年,教皇方济各访美期间,一个绝妙的“抽桌布”戏法视频迅速火遍全美乃至全球,只见他在向圣坛礼拜后,抬手将桌布一抽,桌上物品一点没乱。这应该是网上第一例引发广泛关注的 AI 合成“人造人”事件。没错,这个视频就是假造的,据说教皇本人后来看后并不是很高兴。
教皇视频和 this person does not exist.com 背后的技术就是基于生成对抗网络(GAN),这是机器学习中相对较新的概念,第一次出现是在 2014 年,Ian Goodfellow 等人发表了论文《对抗式生成网络》。GAN 通过收集名人面部数据集,学习生成人造面部图像。
2017 年,“潘多拉的盒子”打开。Reddit 一位用户 Deepfakes 把《神奇女侠》女主角 Cal Gadot 的脸嫁接到一个成人电影女星身上,Reddit 官方将其封号。作为报复,Deepfakes 将换脸代码开源。2019 年初,“杨幂换脸朱茵黄蓉”的视频火爆中文网络,同年陌陌推出了一款“ZAO”换脸视频,一时之间,刷屏与质疑齐飞。
技术本是无知无觉的工具,有人陷入色情视频 AI 换脸黑产狂欢,也有人拿 AI 应用于医疗诊断、公益救助,是造福还是造假,全赖使用者的本心。