站长资讯

• 互联网资讯(3100)
• 娱乐头条(399)
• 教育考试(249)
• 幽默笑话(13)
• 美图合集(14)
• 站长资讯(9010)
• 电商资讯(229)
• 网站建设(74)
• 网站运营(202)
• 推广杂谈(550)

站长资讯

• 机器翻译中的强化学习：优点、缺点以及不足

  本文译自 RL in NMT: The Good, the Bad and the Ugly，作者是海德堡大学的 PhD Julia Kreutzer，翻译已获得作者授权，并且她欢迎大家对文章提出反馈，可以邮件和她交流（PS：作者非常 nice）。在这篇文章中，我会向大家介绍在神经机器翻译（NMT）中使用强化学习（RL）的三个方面：优点：能够和传统的极大似然估计（MLE）方法结合缺点：需要使用一些

  2022-04-11

• 大幅减少GPU显存占用：可逆残差网络The Reversible Residual Network

  前序：　　Google AI最新出品的论文Reformer 在ICLR 2020会议上获得高分，论文中对当前暴热的Transformer做两点革新：一个是局部敏感哈希(LSH)；一个是可逆残差网络代替标准残差网络。本文主要介绍变革的第二部分，可逆残差网络。先从神经网络的反向传播讲起，然后是标准残差网络，最后自然过渡到可逆残差网络。读完本文相信你会对神经网络的架构发展有一个非常清晰的认识。一、背景介

  2022-04-11

• 站在BERT肩膀上的NLP新秀们（PART I）

  写在前面去年NLP领域最火的莫过于BERT了，得益于数据规模和计算力的提升，BERT在大会规模语料上预训练（Masked Language Model + Next Sentence Prediction）之后可以很好地从训练语料中捕获丰富的语义信息，对各项任务疯狂屠榜。我们在对BERT进行微调之后可以很好地适用到自己的任务上，具体可以参考之前一篇BERT简单应用：BERT模型实战之多文本分类（附

  2022-04-11

• Bert 之后：预训练语言模型与自然语言生成

  前言Bert 在自然语言理解领域获得了巨大的成功，但是在自然语言生成领域却表现不佳，这是由于 Bert 训练时所采用的语言模型所决定的。Bert 这种 DAE 语言模型只学习到了词的上下文表征的能力，即理解语言的能力，但没有学习到如何组织语言的能力，可以参见以下 XLNet 中前言部分所提到的 AR 与 AE 的介绍。如果想要将 Bert 应用到生成领域，那么 Decoder 的设计是一个相当大的

  2022-04-11

• 中文NER任务实验小结报告——深入模型实现细节

  如标题所言，本文主要内容为最近一段时间内对中文NER任务的一些实践小结。文章内容包括对一些NER模型方法的介绍，以及各个方法在一个公开数据集上的实验比对。虽然这些模型方法或多或少为人所知，但是还是有一些细节部分在实践中才能注意到。我希望通过对这些细节的关注，加强自己模型实现的能力。备注：本实验暂时聚焦于字符级的中文NER识别，因此使用的数据集也是字符级的。所以对于一些需要词级别的ner模型比如la

  2022-04-11

• 2020秋招总结：凡是过往，皆为序章

  前言文章更多是自己秋招历程的记录比较长，干货不多可以直接拉到面经一节看。10月9日，腾讯打来正式offer call，岗位是NLP算法工程师，沟通薪资后接下offer，秋招正式结束。秋招战果：鹅厂之外，美团和京东，华为现在依旧在备胎池泡着，考虑地域和部门之后基本选择了鹅。秋招的时候，告诉自己结束这场漫长秋招之后，一定要写篇文章记录这次旅程，但识得愁滋味后，却欲说还休，一直拖到现在才写这篇文章。矫情

  2022-04-11

• 用 GPT-2 自动写诗，从五言绝句开始

  春节前用 GPT2 训练了一个自动对联系统：鼠年春节，用 GPT-2 自动生成（写）春联和对对联 ，逻辑上来说这套NLG方法论可以应用于任何领域文本的自动生成，当然，格式越固定越好，这让我自然想到了自动写诗词，诗词的格式相对比较固定，我们之前已经有所涉及，譬如已经在AINLP公众号上上线了自动写藏头诗和首字诗的功能，不过是直接复用的："自动作诗机"上线，代码和数据都是公开的 ，

  2022-04-11

• .net 加密模型的学习笔记

  学习加密模型的笔记：最近，突然来了一些对接第三方的接口任务。搞得自己晕晕乎乎的。 主要原因 学习及基础有限，对加密的理解不到位。所以主要学习了, .net 的加密模型。

  2022-04-11

• 数学和工程计算软件Maplesoft Maple 2021中文版的下载、安装与注册激活教程

  Maplesoft™, 是Cybernet Systems集团的子公司，是一家专为工程、科学和数学提供高性能计算软件工具的高端供应商。Maple是一款用于数学和工程计算的软件，它内置了高级技术解决建模和仿真中的数学问题，包括世界上最强大的符号计算、无限精度数值计算、创新的互联网连接、强大的4GL语言等，内置超过5000个计算命令，用户通过Maple产品可以在单一的环境中完成多领域物理系

  2022-04-09

• 深度剖析知识增强语义表示模型——ERNIE

  无监督文本的深度神经网络的出现，nlp领域又火了起来，深度神经网络大大提升了nlp任务的效果。虽然早期的网络也是基于上下文进行的向量建模，但是由于单向信息流的弊端，效果上始终难以大幅度提升。Transformer中的多层self-attention的出现，推进了深度网络的发展。Google提出的BERT模型，通过掩盖的term，利用多层的self-attention的双向建模能力，横扫了NLP比赛

  2022-04-09