资讯 人工智能
此为临时链接,仅用于文章预览,将在时失效

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

作者:杨晓凡
2018/07/20 09:41

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

雷锋网 AI 科技评论按:机器学习圈子这几天发生了一件有趣的事,一群知名学者在 ICML 2018 上抱着吵架(辩论)的心思坐到一起,结果却没吵起来。

从「奇怪的趋势」开始

在 ICML 2018 开幕之前,卡耐基梅隆大学的助理教授 Zachary C. Lipton 与斯坦福大学博士 Jacob Steinhardt 共同发表了一篇名为《Troubling Trends in Machine Learning Scholarship》(机器学习学术研究中的奇怪趋势)的文章,叙述了他们在近几年的机器学习学术研究中看到的四项奇怪的趋势:

除了对这些趋势的解析和批评之外,两位作者也对正确的论文写作风格、如何正确地评审及发表论文给出了自己的建议。

除了这篇文章在推特被广为转发和讨论,实际上 ICML 2018 也以这篇文章为引子,在最后一天的 workshop 中设置了一场辩论(Machine Learning: The Great Debates),邀请了许多知名机器领域的学者参与辩论。

整场辩论共分为四个话题:机器学习科研的严谨性、机器学习的公平性、机器学习的安全性以及深度学习方法的可能性与限制。16 位学者分为四组,每组针对一个话题进行辩论。辩论中也穿插了小演讲,Zachary Lipton 讲解了一些文章中的重要观点,提醒各位学者对有害的做法保持警惕。

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

来自 Zachary Lipton,谈论文中滥用的语言

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

来自 Zachary Lipton,对论文作者们的建议:
动机、语言运用、经验成果以及理论本身都要有足够的严谨性

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

来自 Zachary Lipton,对审稿人们的建议:

辩论金句

整场辩论内容非常丰富,而且观点的当面沟通也擦出了许多火花,在场听众都表示有耳目一新的感觉。虽然由于条件限制无法全文重现给大家,但雷锋网 AI 科技评论摘录了一些讨论中出现的非常经典、令人深思的句子。

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

「深度学习」话题 —— 当前以及可预见的深度学习方法有着固有的限制,这也限制了用深度学习方法做出高级机器智能的能力,除非我们有其它的方法作为补充

Gary Marcus,纽约大学心理学教授、曾任 Uber 人工智能实验室的负责人

Thomas G.Dietterich,俄勒冈州立大学退休教授、AAAI 前主席

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

「平等性」话题 —— 为了围绕平等性问题展开有效的讨论,机器学习社区不应该把平等性简化为一个技术性问题。相反地,这个问题应当越来越多地、越来越明显地引起大范围的机构的改变,也要表明政治因素对于技术本身影响的立场

Rodrigo Ochigame,MIT 博士生,MIT 多媒体实验室人工智能道德与管理小组

「严谨性」话题

Zachary Lipton,CMU 助理教授,《Troubling Trends in Machine Learning Scholarship》一作

James Bradbury

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

「安全性」话题 —— 如今的机器学习系统如此脆弱,而这个问题又如此关键,以至于我们不应当允许在真实世界场景中广泛地运用它们

Percy Liang,斯坦福大学助理教授,知名 NLP 领域学者

Aleksander Madry,MIT 副教授, CSAIL 小组成员

辩论的「观后感」

对于这场辩论,大家也许期待学者们自发地分成正反两方,展开激烈的唇枪舌剑。不过显然参与辩论的各位学者都对领域内现存的问题有清醒的认识,以至于多数问题上参与辩论的四个人都能很快达成一致。参与围观辩论的 AAAI 主席、亚利桑那州立大学教授 Subbarao Kambhampati 发推无不遗憾地表示:

围观了辩论的 Endgame 数据科学技术总监 Hyrum Anderson 也总结出了一件自己觉得值得深思的事情:攻击者可以用意想不到的方法攻击看起来根本不重要的系统,最终造成巨大的后果,「我们当时只不过是有一个廉价的推荐系统而已,现在 Trump 已经当上总统了」

在论文中发表新的技术固然有意义,但围绕新技术、新风气,还有太多的东西值得我们仔细思考。雷锋网 AI 科技评论报道。

长按图片保存图片,分享给好友或朋友圈

金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

扫码查看文章

正在生成分享图...

取消
相关文章