机器之心史上最大AI模型GPT-3上线；Transformer跨界做目标检测
机器之心 & ArXiv Weekly Radiostation
参与： 杜伟、楚航、罗若天
本周的重要论文包括OpenAI推出的史上最大AI模型GPT-3 ， 以及Facebook AI将Transformer用于目标检测和全景分割的跨界尝试 。
目录：
Knowledge Graph Embedding for Link Prediction: A Comparative Analysis
Efficient Deep Reinforcement Learning via Adaptive Policy Transfer
The Resurgence of Structure in Deep Neural Networks
End-to-End Object Detection with Transformers
Point2Mesh: A Self-Prior for Deformable Meshes
【机器之心史上最大AI模型GPT-3上线；Transformer跨界做目标检测】Language Models are Few-Shot Learners
PyChain: A Fully Parallelized PyTorch Implementation of LF-MMI for End-to-End ASR
ArXiv Weekly Radiostation：NLP、CV、ML 更多精选论文（附音频）
论文 1：Knowledge Graph Embedding for Link Prediction: A Comparative Analysis
作者：Andrea Rossi、Donatella Firmani、Antonio Matinata、Paolo Merialdo、Denilson Barbosa
论文链接：https://arxiv.org/pdf/2002.00819.pdf
摘要：知识图谱（Knowledge graph, KGs）在工业和学术领域有很多应用 ， 这反过来又推动了从各种来源大规模提取信息的研究工作 。 尽管付出了诸多努力 ， 但不得不承认最先进的知识图谱也是不完整的 。 链路预测（Link Prediction, LP）是一种根据知识图谱中的已存在实体去预测缺失事实的任务 ， 它是一种有前途、广泛研究且旨在解决知识图谱不完整性的任务 。
在最近 ， 基于知识图谱嵌入的链路预测技术在一些基准测试中实现了良好的性能 。 尽管这方面的研究文献在快速增加 ， 但对这些方法中不同设计选择的影响却没有投以充分的注意 。 此外 ， 这一领域的标准做法是测试大量的事实来报告准确性 ， 其中一些实体被过度表示；这使得链路预测方法只修改包含这些实体的结构属性来展示良好的性能 ， 而忽略知识图谱的主要部分 。
因此 ， 在这篇综述论文中 ， 来自罗马第三大学和阿尔伯塔大学的研究者对基于嵌入的链路预测方法进行全面比较 ， 将分析维度扩展到常见的文献范围之外 。 他们通过实验比较了 16 种当前 SOTA 方法的有效性和效率 ， 考虑到了一个基于规则的基准 ， 并提供了文献中最流行基准的详细分析 。
本研究中链路预测模型的分类 。
本研究对比分析中模型的损失函数、约束和空间复杂度 。
本研究对比分析中采用的 5 个链路预测数据集以及它们的常规属性 。
每个链路预测模型在 5 个数据集上的训练时长 。
推荐：这篇长达 43 页的综述论文首次对基于知识图谱嵌入的链路预测模型进行了全面的对比分析 ， 囊括 16 个方法和架构各异的链路预测模型 ， 并在 5 个最流行的数据集上验证了它们的有效性和效率 。
论文 2：Efficient Deep Reinforcement Learning via Adaptive Policy Transfer
作者：Tianpei Yang、Jianye Hao、Zhaopeng Meng 等
论文链接：https://arxiv.org/pdf/2002.08037.pdf
摘要：通过利用过去学得的相关任务策略的先验知识 ， 迁移学习（Transfer Learning, TL）在加速强化学习方面表现出了极大的潜力 。 现有的迁移方法要么显式地计算任务间的相似度 ， 要么选择合适的源策略为目标任务提供指导性探索 。 但是 ， 如何利用合适的源策略知识并且隐式地度量相似度 ， 进而直接优化目标策略 ， 这种思路的研究目前是缺失的 。
因此 ， 在本文中 ， 来自华为诺亚方舟实验室等机构的研究者提出的新型策略迁移框架（Policy Transfer Framework, PTF）通过利用上述思路来加速强化学习 。 该框架学习对于目标策略来说何时复用以及复用哪种源策略才能达到最佳效果 ， 以及通过将多策略迁移建模为选择学习问题来确定何时终止这种源策略 。
推荐阅读
- 美国_时政|参与者已达1500万～2600万，“黑命贵”何以成为美国史上最大运动？
- 炉石传说@炉石传说：这套牌史上最强，吊打所有职业，复活会统治天梯吗？
- 星稀月暗|正史上的汉昭帝刘弗陵是个怎样的人？
- 「」我国史上最大天灾，一声巨响2万人瞬间蒸发，今仍无法用科学解释
- 生活中的风尘|历史上的兰陵王与民间流传有何不同？其母何人？引来种种猜测
- 扫地机器人哪个牌子好？高效清洁首选德国大牌
- 马夏尔▲重磅! 足坛史上最贵转会呼之欲出: 总价高达1.7亿欧, 有望创世界纪录
- 机器人|达闼科技赴美上市一路坎坷 列入“实体名单”后会回归A股吗
- 十点街球|从排球选手到世界超模冠军，阿丽莎才是俄罗斯体坛史上的第一美女
- 4-1，C罗是历史上第一位在英格兰，正在逼近冠军，连续4轮比赛