资讯 人工智能开发者

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

作者:杨鲤萍
2019/06/27 18:09

雷锋网(公众号:雷锋网) AI 科技评论按:今天,谷歌的 Dropout 专利生效这一消息突然在圈内传开,而生效日期就在 6 月 25 日,有效期 15 年。三年前,谷歌就给 Dropout 申请了专利,但因为此举引发了业界众多异议,最最后无疾而终。只是令人没想到时隔三年,这一专利申请竟然生效了。雷锋网 AI 科技评论将这一事件整理报道如下。

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

何为 Dropout?

但凡是接触过机器学习的人士,一定知道 Dropout。它是在进行深度学习、训练神经网络时,普遍会用到的方法,也是调参的一种手段,可以有效防止过拟合。由 Hinton 在 2012 年的论文《Improving neural networks by preventing co-adaptation of feature detectors》中提出。

而在随后 Alex 和 Hinton 的论文《ImageNet Classification with Deep Convolutional Neural Networks》中,则用 Dropout 算法来防止过拟合。论文中的 AlexNet 网络模型瞬间引爆神经网络应用热潮,并赢得了 2012 年图像识别大赛冠军,使得 CNN 成为图像分类上的核心算法模型。

而 Dropout 在这里面,就起到了训练深度神经网络的一种 trick 供选择这一重要作用。简单来讲:在前向传播过程中,Dropout 让某个神经元的激活值以一定的概率 p 停止工作,通过取各种网络的平均来提升模型的稳定性,从而有效的缓解过拟合现象,并在一定程度上达到正则化的效果。

而且对于机器学习来说,一旦模型过拟合,那么该模型几乎不能用。因此,这一方法在很早的时候,就被广泛的运用在机器学习领域中。

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

Dropout 申请专利

在谷歌申请专利的介绍中,他们把 Dropout 称为——《解决神经网络过拟合的系统与方法》。我们可以在 Google Patents (https://patents.google.com/patent/US9406017B2/en)上看到这项技术的专利详情页面。

通过摘要,我们大致可以了解到关于 Dropout 的这几点:

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

从图中右上角,我们可以看到该技术发明者包括:Geoffrey E. Hinton、Alexander Krizhevsky、Ilya Sutskever、Nitish Srivastva;而目前的专利权受让人(Current Assignee)是谷歌。

Dropout 的影响

综上所述,当 Dropout 这一普遍且通用的方法成为了专利,虽然它非常简单,但此举就好比加法成为了个人专利,这势必会为整个行业带来大的扰动。

这一方法在将来的使用中,是否存在法律风险?谷歌会对该专利作出怎样的限制?这些限制将给学术研究与合作带来怎样的结果?对于国内外的相关企业又有什么影响?......这些问题不免引起大家的关注与思考。

消息发出后,reddit 上就针对这件事进行了热烈的讨论:

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

其中讨论得最多的问题就是——以后我们是否还能够自由使用 Dropout?

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

针对这一问题,有人认为谷歌不会强制执行专利许可,就像他们之前的「使用深度神经网络处理图像」专利一样,也没有强制执行;

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

也有人持有相反的态度,并且将关注点落在了企业层面,认为这一专利申请,势必会影响一大部分年轻的机器学习公司。因为谷歌可以对其专利代码被使用,随时提出诉讼,而对公司造成消极影响;

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

还有持辩证态度的群众,他总结到这个事情的影响视个人情况而定。如果你是机器学习相关的公司负责人,这件事的就会对公司利益造成损害;如果你与谷歌有利益纠纷,走法律程序前三思,因为你很可能会被谷歌公司以专利侵权返告;但如果你是谷歌的专利律师,那恭喜,估计世界上也没有能难到你的案件了!

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

知乎上,一位知友也发表了自己的看法——

谷歌 Dropout 专利生效,AI 圈内人表示坐不住了!

还有网友表示我们不应该指责谷歌,应该指责专利制度;正如有句话所说「不要怪玩家,要怪就怪制定游戏规则的人。」不过,在事情还没有任何定论之前,我们也只能持观望态度,毕竟专利设置之初,其本意是用来鼓励和保护发明创造的,从过去的一些专利申请来看,它确实也起到了相应的作用,也维护了很多发明者自身的利益。

当然,我们也希望如大部分乐观网友所说,谷歌的行为只是单纯为了维护自身利益;而 Dropout 专利申请生效事件,也不会为学术圈乃至整个行业带来任何消极影响。

参考文献:

《深度学习中 Dropout 原理解析》.Microstrong0305(小强)

https://blog.csdn.net/program_developer/article/details/80737724?utm_source=copy

雷锋网 AI 科技评论

文章点评
相关文章