ACL2020系列解读:东北大学自然语言处理实验室将带来两场工作分享

新知榜官方账号

2023-09-26 10:46:40

ACL2020系列解读:东北大学自然语言处理实验室将带来两场工作分享

自2020年4月3日,NLP顶会ACL2020公布录用论文以来,AI科技评论相继与哈工大、复旦大学、清华大学重磅推出了足足五期「系列解读」直播活动,受到广大师生的关注和好评。此次,东北大学自然语言处理实验室将为大家带来两场工作分享。

分享一:基于扩展搜索空间的网络结构搜索方法

分享嘉宾:李垠桥

分享背景:网络结构搜索是目前机器学习领域中的一项研究热点,旨在能够让模型能够像学习网络参数一样自动地对模型结构进行搜索。在本次公开课中,讲者将对网络结构搜索的历史以及整体框架进行介绍,同时分享一种通过扩大模型结构搜索空间的方式提升搜索到的模型性能的方法,该项工作被收录在ACL2020会议中。

  • 从“人工”到“自动”的突围
  • 网络结构搜索的整体框架
  • 基于拓展搜索空间的网络结构搜索方法

分享二:多编码器是否能够有效帮助篇章级翻译模型捕获上下文信息?

分享嘉宾:李北

分享背景:篇章级机器翻译是目前比较热门的一个研究话题,通过捕获句子间的上下文联系得到更为流畅、连贯的译文。本次报告针对篇章级翻译的建模手段进行简要的介绍,同时结合实验验证了多编码器在篇章级任务上性能的提升并不是来源于上下文编码器对篇章级语义信息的编码,其更像是一个噪声生成器,为模型的训练提供了额外的训练信号。其次,在解码阶段屏蔽上下文编码器对BLEU并没有影响,进一步证明了上下文编码器在训练中类似于dropout作用。本文已被ACL2020收录。

  • 篇章级机器翻译的建模方法
  • 上下文编码器在训练中起到了正则化的作用
  • 提出了一种基于高斯噪声的正则化训练手段

ACL2020原定于2020年7月5日至10日在美国华盛顿西雅图举行,因新冠肺炎疫情改为线上会议。为促进学术交流,方便国内师生提早了解自然语言处理(NLP)前沿研究,AI科技评论将推出「ACL实验室系列论文解读」内容,同时欢迎更多实验室参与分享,敬请期待!

本页网址:https://www.xinzhibang.net/article_detail-13803.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章