7日 Paper丨2020神经架构搜索最新综述；sql生成模型；深度树结构；联合学习等

目录

一种用于sql生成模型的数据匿名化编码方法

Drain：一种基于固定深度树结构的在线日志解析方法

可变形核

从草图中深度生成人脸图像

联合学习知识图谱中可解释性的规则进行推荐

神经体系结构搜索的全面调查：挑战与解决方案

  一种用于sql生成模型的数据匿名化编码方法

论文名称：Data-Anonymous Encoding for Text-to-SQL Generation

作者：Zhen Dong1 , Shizhao Sun , Hongzhi Liu , Jian-Guang Lou ,Dongmei Zhang

发表时间：2019/11/7

论文链接：https://www.aclweb.org/anthology/D19-1543.pdf

推荐原因

1、为了优化从文本中生成机器语言(此处是sql语句)的效率，作者提出了一种基于序列标注的两阶段模型对文本进行匿名化(anonymous encoding)的预处理，减少了文本的长度，并且提取了文本的词与数据表之间的语义关系.为了更高效地进行训练，作者采用了数据集的一小部分进行人工标注，以此训练出的模型来初始化最终的模型，对于其他的数据，作者仅从sql中抽取出无序的colname, cell等数据，并提出了一种基于奖励机制的隐监督(implicit supervision)学习方法来进行训练。此外，作者还提及了一种基于变分推断思路的训练方法，意图将文本匿名化模型与用于生成sql的语义解析模型联合训练来提供模型的效率

2 、作者提出的匿名化方法无论从效率还是从准确度的角度，相比之前的方法都得到了很大的提高

3 、序列标注，尤其是与bert相结合的序列标注，是一种直观且有效的训练模型，需要大量标注良好的数据是其一大软肋，作者提出的隐监督训练方案的思路很值得一读

  Drain：一种基于固定深度树结构的在线日志解析方法

论文名称：Drain: An Online Log Parsing Approach with Fixed Depth Tree

作者：Pinjia He , Jieming Zhu , Zibin Zheng , and Michael R. Lyu

发表时间：2017/6/30

论文链接：http://www.cse.cuhk.edu.hk/lyu/_media/conference/pjhe_icws17.pdf?id=publications%3Aconference2&cache=cache

推荐原因

1、本文提出了一种高效的树结构来在线解析日志数据，将日志解析工作拆解为5个步骤，即根据具体的业务场景对日志进行简单的预处理、根据日志长度来搜索日志事件、根据日志第一个词来搜索日志事件、根据句子相似度来搜索日志事件，匹配日志事件或者更新日志事件，与大多数树结构的方法一样，作者也设计了一些剪枝的方法

2、 作者提出的方法十分直观，并且灵活，与其说是一种日志分析算法，更多的是一种基于树结构的日志分析思路，一些其他基于树结构的日志处理方法亦可以很方便的整合到作者的模型中

  可变形核

论文名称：Deformable Kernels: Adapting Effiective receptive fields for Object Deformation

作者：Hang Gao, Xizhou Zhu, Steve Lin, Jifeng Dai

发表时间：2020/2/12

论文链接：https://arxiv.org/abs/1910.02940v2

推荐原因

在可变形卷积思想之后，提出可变形核，来适应对象形变的感受野。其核心为重新采样原始内核空间来回复对象的形变能力。

  从草图中深度生成人脸图像

论文名称：Deep Generation of Face Images from Sketches

作者：Chen Shu-Yu,Su Wanchao,Gao Lin,Xia Shihong,Fu Hongbo

发表时间：2020/6/1

论文链接：https://arxiv.org/abs/2006.01047v2

推荐原因

这篇论文被SIGGRAPH 2020接收，考虑的是从草图中快速生成人脸图像的问题。</span></p><p>现有的图像到图像转换技术可以实现这个功能，但是往往需要专业的草图甚至边缘图作为输入。这篇论文提出隐式模拟可信人脸图像的形状空间，并在这个空间中合成人脸图像，以接近输入草图。这篇论文采取的是局部到全局的方法，首先学习关键人脸组件的特征嵌入，并将输入草图的相应部分表示为由人脸组件样本的特征向量定义的底层分量。由于将输入的草图作为软约束，即使从粗糙或不完整的草图中也能生成高质量的人脸图像。这篇论文通过定性和定量的评估表明新方法要比现有的技术具有更强的生成能力和可用性。

目前这篇论文给出了项目主页的链接：http://geometrylearning.com/DeepFaceDrawing/，之后也会放出代码。

  联合学习知识图谱中可解释性的规则进行推荐

论文名称：Jointly Learning Explainable Rules for Recommendation with Knowledge Graph

作者：Weizhi Ma, Min Zhang, Yue Cao, Woojeong, Jin, Chenyang Wang, Yiqun Liu, Shaoping Ma, Xiang Ren

发表时间：2019/3/9

论文链接：https://arxiv.org/abs/1903.03714v1

推荐原因

作者定义了这样一个问题，给定用户、物品、用户-物品交互信息、物品之间的联系信息、以及知识库，同时学习物品之间联系的规则与如何向用户推荐物品。以此问题为框架，作者利用亚马逊公开的用户购买行为数据作为推荐系统数据集，将FreeBase作为知识库，以几种当时非常优秀的推荐系统模型作为基准，分别进行了规则抽取、物品推荐、和联合学习等多种不同条件下的实验，不仅大幅度提升了推荐系统的表现分数，并且从可解释性的角度分析了分数较高的规则对于物品推荐的作用

作者将知识图谱中的规则引入到推荐系统中时，不仅考虑了引入物品本身的语义信息，并且将规则与推荐系统联合学习，来进一步得到规则与目标关联性更强的交互信息，从结果上来看，这种思路是有效的。

  神经体系结构搜索的全面调查：挑战与解决方案

论文名称：A Comprehensive Survey of Neural Architecture Search: Challenges and Solutions

作者：Pengzhen Ren,Yun Xiao,Xiaojun Chang,Po-Yao Huang,Zhihui Li,Xiaojiang Chen,Xin Wang

发表时间：2020/6/1

论文链接：https://arxiv.org/abs/2006.02903

推荐原因

2020神经架构搜索最新综述

神经架构搜索Neural Architecture Search (NAS)是深度学习研究热点。NAS旨在通过使用有限的计算资源，以尽可能少的人工干预的自动化方式设计具有最佳性能的网络架构。西北大学等学者发布了关于神经架构搜索的综述论文，对NAS进行了全面、系统的综述。

github：https://github.com/pzhren/Awesome-NAS

AI研习社论文讨论微信群，分别有【NLP论文讨论群】【CV论文讨论群】【强化学习讨论群】，未来将会更细分方向和内容，群里面可以分享你觉得不错的论文，可以和同学一起讨论论文复现结果等细节，欢迎大家加入并积极参与活跃！

扫码添加小助手微信，备注【XX论文】，进入相关的论文讨论群