雷锋网 AI科技评论按:如果说起谷歌,想必你一定不会忽略Google Brain(谷歌大脑团队)。谷歌大脑在2011年初由吴恩达、Jeff Dean牵头组成,并在后来相继有了 Greg Corrado、Quoc Le、Geoffrey Hinton等重量级大牛的加持,逐渐成长为谷歌真正的“大脑”。毫无疑问,谷歌大脑是谷歌至关重要的科研核心部门,也是全球工程师梦寐以求的乌托邦。
在回顾去年的研究历程时,Jeff Dean曾撰文动情地表示:
“谷歌大脑团队的宏愿一如既往:团队致力于通过多领域的纯研究及应用性研究,创造更多的智能软件及智能系统,以此提升人们的生活水平。虽然这一蓝图是我们仰望星空的长期愿景,但我们也需要脚踏实地。”
而近日,Jeff Dean又撰文发表了谷歌大脑团队的科研方针,原文如下,雷锋网 AI科技评论编译整理:
大约一年前,我们团队第一次向大众分享了自己的使命:“让机器拥有智慧,改善人们的生活。”当时,我们向大家介绍了我们的工作——将机器学习与谷歌的产品结合起来,赋予那些每天都有数亿人使用的产品新的力量,例如谷歌翻译、谷歌地图等产品。
今天,我想向大家分享更多经验,我们在基础理论的进步、对机器学习的理解和产品服务的研究中,是如何接近我们的目标的。
五年前,谷歌的同事Alfred Spector、Peter Norvig和Slav Petrov发表了一篇博客和论文,阐述了在谷歌我们的研究方法——我们的方法总是能在好奇心和应用性驱动的研究之间达到动态平衡。
在机器学习中我们团队聚焦的最大挑战是需要对新的想法进行广泛的探索,因此研究人员会设置自己的工作议程,大多数人关注的方向是机器学习最前沿的领域。在探索过程中,过去几年间我们在NIPS, ICML和ICLR等大会上发表了数百篇论文,并且论文的接受率远远高于平均水平。
想要实现我们的使命,至关重要的一环是在机器学习中做出新的理论研究。为了实现这一目标,我们建立了一个进行长期的、开放性研究的前沿团队,来推动科学的发展。在对视觉和听觉感知、自然语言理解、生成艺术和音乐、系统架构和算法等领域进行研究的过程中,我们也与外部机构的研究人员有所合作。2017年我们发表的论文中,有1/3的论文拥有一个或多个跨机构的作者。此外,我们还邀请来自学术机构的研究人员来促进我们的研究,加强我们与科学界的联系。
我们也认为向大家清楚地解释现代机器学习中的概念很重要。Distill.pub是一个在线技术杂志,其中包括一个由我们团队成员Chris Olah和Shan Carter发起的论坛,目的是为了让大家清楚地理解一些机器学习概念。
TensorFlow Playground是由我们团队的可视化专家创建的一个可视化实验平台,可以让人们了解到神经网络是如何解决简单问题的。由PAIR开发的deeplearn.js是一个基于硬件加速的开源JavaScript库,用于机器学习,能在浏览器中运行,不需要额外的装置和后端。
除了与学术界和工业界的精英们合作,我们的团队与谷歌其他团队一样,坚信培养下一代科学家会很有意义。我们团队每年接收50多名实习生,他们的目标是在顶级机器学习出版物上发表自己的工作成果。到2017年为止,我们团队发表的论文中,大约有25%的作者是实习生,而且他们通常是第一作者。
此外,2016年我们迎来了谷歌大脑培训项目(Google Brain Residency Program)的第一批实习生,这是个为期一年的项目,针对那些想要研究机器学习的人而开设。在其成立的第一年,项目的27名参加者在我们团队成员的指导下进行了研究,并发表了超过40多篇论文被顶级研究会议接受的论文。今年7月,我们迎来了第二批实习生:36名成员在我们小组的支持下开始了为期一年的学习,他们已经参与到各种各样的项目中了。
在与其它谷歌研究部门紧密协作的过程中,谷歌大脑得以进行机器学习的基础性研究,也能够为产品导向的研究做出独到的贡献。本着让机器学习产生全球性的影响来说,这两方面的研究都至关重要。
雷锋网 AI科技评论