2020年4月3日,NLP 顶会 ACL 2020 公布录用论文以来,AI科技评论相继与哈工大、复旦大学、清华大学重磅推出了足足五期「系列解读」直播活动,受到广大师生的关注和好评。
第四期:ACL 2020 - 清华大学 THUNLP 系列解读
接下来,AI 科技评论又将携手谁,将 ACL「系列解读」直播活动进行到底呢?
答案就是:东北大学自然语言处理实验室!
在 NLP 领域,东北大学自然语言处理实验室一直都是一个不容忽视的存在。1980年,在姚天顺教授和王宝库教授的主导下,东北大学自然语言处理实验室正式成立,后经其弟子朱靖波教授的发扬光大,在 ACL、EMNLP 、IJCAI 等国际学术顶会上都少不了东北大学自然语言处理实验室师生的身影。与此同时,实验室更是培养出了一大批 NLP 领域的顶尖人才,其中就包括接下朱靖波教授的衣钵,现任自然语言处理实验室主任的肖桐副教授。
这次将为大家带来 ACL 工作分享的,便是朱靖波教授和肖桐副教授的两位门生!
6月22日,东北大学自然语言处理实验室博士生李垠桥将带来主题为“基于扩展搜索空间的网络结构搜索方法”的分享,他在ACL、IJCAI等会议期刊发表论文若干,也曾多次参与 WMT、CWMT等机器翻译评测任务,主要研究方向为网络结构搜索、语言建模以及机器翻译等。
接着在6月23日,同实验室的博士生李北也将带来这次在ACL 的工作:"多编码器是否能够有效帮助篇章级翻译模型捕获上下文信息"。他的顶会论文发表经历同样丰富,先后在ACL、WMT、NLPCC、CCMT、中文信息学报等会议期刊发表学术论文若干,也曾屡次参加WMT、CWMT等机器翻译评测。研究方向包括神经机器翻译、深层网络建模,篇章级翻译,解码加速等。
就在不久前,由朱靖波、肖桐两位老师编著《机器翻译:统计建模与深度学习方法》教程为大家呈上了一份超赞的学习资源,引起了广大学生的叫好!想要了解两位 NLP 大佬最新工作的小伙伴们,自然也不要错过这两场直播哦!
第一期:基于扩展搜索空间的网络结构搜索方法
分享嘉宾:李垠桥
分享背景:
网络结构搜索是目前机器学习领域中的一项研究热点,旨在能够让模型能够像学习网络参数一样自动地对模型结构进行搜索。在本次公开课中,讲者将对网络结构搜索的历史以及整体框架进行介绍,同时分享一种通过扩大模型结构搜索空间的方式提升搜索到的模型性能的方法,该项工作被收录在ACL 2020会议中。
分享提纲:
1、从“人工”到“自动”的突围
2、网络结构搜索的整体框架
3、基于拓展搜索空间的网络结构搜索方法
分享时间:(北京时间)6月22日(星期一)20:00
第二期:多编码器是否能够有效帮助篇章级翻译模型捕获上下文信息?
分享嘉宾:李北
分享背景:
篇章级机器翻译是目前比较热门的一个研究话题,通过捕获句子间的上下文联系得到更为流畅、连贯的译文。本次报告针对篇章级翻译的建模手段进行简要的介绍,同时结合实验验证了多编码器在篇章级任务上性能的提升并不是来源于上下文编码器对篇章级语义信息的编码,其更像是一个噪声生成器,为模型的训练提供了额外的训练信号。其次,在解码阶段屏蔽上下文编码器对BLEU并没有影响,进一步证明了上下文编码器在训练中类似于dropout作用。本文已被ACL 2020收录。
分享提纲:
1. 篇章级机器翻译的建模方法
2. 上下文编码器在训练中起到了正则化的作用
3. 提出了一种基于高斯噪声的正则化训练手段
分享时间:(北京时间)6月23日(星期二)20:00