正文

论文泛读164mect：基于多元数据嵌入的中文命名实体识别交叉变换器

及时行樂_  及时行樂_  2022-12-05  585

关键词：

论文链接：《MECT: Multi-Metadata Embedding based Cross-Transformer for Chinese Named Entity Recognition》

一、摘要

最近，词增强在中文命名实体识别（NER）中变得非常流行，减少了分割错误并增加了中文词的语义和边界信息。然而，这些方法在整合词汇信息后往往会忽略汉字结构的信息。汉字自古由象形文字演变而来，其结构往往反映了更多的文字信息。本文提出了一种新的基于多元数据嵌入的交叉变换器（MECT），通过融合汉字的结构信息来提高中文 NER 的性能。具体来说，我们在双流 Transformer 中使用多元数据嵌入将汉字特征与部首级嵌入相结合。借助汉字的结构特征，MECT可以更好地为NER捕捉汉字的语义信息。在几个著名的基准数据集上获得的实验结果证明了所提出的 MECT 方法的优点和优越性。代码：github。

二、结论

本文提出了一种适用于Chinese NER的新型双流网络，即MECT。该方法使用多元数据嵌入，通过交叉变换网络融合部首、字符和单词的信息。此外，随机注意力被用于进一步提高性能。在四个基准上的实验结果表明，汉字部首信息可以有效提高Chinese NER的性能。

所提出的带有基流的MECT方法增加了模型的复杂性。未来，我们将考虑如何在双流或多流网络中以更高效的方式集成汉字的字符、单词和部首信息，以提高Chinese NER的性能，并将其扩展到其他自然语言处理任务中。

三、model

该方法的关键是利用汉字的部首信息来增强中文NER模型。所以我们重点研究了文献中主流的信息增强方法。汉语NER增强方法主要有两种，包括词汇信息融合和字形结构信息融合。

最大似然方法：
在这里插入图片描述
用于部首特征提取的CNN：

论文泛读179small-text：python中文本分类的主动学习

贴一下汇总贴：论文阅读记录论文链接：《Small-text:ActiveLearningforTextClassificationinPython》一、摘要我们提出了small-text，这是一个简单的模块化主动学习库，它为Python中的文本分类提供基于池的主动学习。它带有各种... 查看详情

论文泛读179small-text：python中文本分类的主动学习

论文泛读178通过对比对抗训练改进文本分类

贴一下汇总贴：论文阅读记录论文链接：《ImprovedTextClassificationviaContrastiveAdversarialTraining》一、摘要我们提出了一种简单而通用的方法来规范基于Transformer的编码器的微调，用于文本分类任务。具体来说，在微调过... 查看详情

论文泛读178通过对比对抗训练改进文本分类

论文泛读175迈向通过基于文本的自然语言进行交流的协作强化学习代理

贴一下汇总贴：论文阅读记录论文链接：《TowardCollaborativeReinforcementLearningAgentsthatCommunicateThroughText-BasedNaturalLanguage》一、摘要协作多代理设置中的代理之间的通信通常是隐式的或直接的数据流。本文将基于文本的自然语... 查看详情

论文泛读175迈向通过基于文本的自然语言进行交流的协作强化学习代理

论文泛读176具有各向同性和等距条件的跨语言bert上下文嵌入空间映射

贴一下汇总贴：论文阅读记录论文链接：《Cross-LingualBERTContextualEmbeddingSpaceMappingwithIsotropicandIsometricConditions》一、摘要通常，线性正交变换映射是通过对齐静态类型级嵌入来构建共享语义空间来学习的。鉴于上下文嵌... 查看详情

论文泛读176具有各向同性和等距条件的跨语言bert上下文嵌入空间映射

论文泛读169少数线索：中文的小样本学习评估基准

贴一下汇总贴：论文阅读记录论文链接：《FewCLUE:AChineseFew-shotLearningEvaluationBenchmark》一、摘要预训练语言模型(PLM)在自然语言理解任务中取得了巨大成功。虽然针对英语等语言已经广泛探索和比较了不同的学习方案——微... 查看详情

论文泛读169少数线索：中文的小样本学习评估基准

论文泛读190基于子图搜索的在线问答系统

贴一下汇总贴：论文阅读记录论文链接：《AnOnlineQuestionAnsweringSystembasedonSub-graphSearching》一、摘要知识图(KG)已广泛用于问答(QA)应用程序，尤其是基于实体的QA。然而，从整个大规模知识图中搜索答案非常耗时，... 查看详情

论文泛读190基于子图搜索的在线问答系统

论文泛读187使用bert基于阿拉伯语方面的情感分析

贴一下汇总贴：论文阅读记录论文链接：《ArabicaspectbasedsentimentanalysisusingBERT》一、摘要基于方面的情感分析(ABSA)是一种文本分析方法，它定义了与特定目标相关的某些方面的观点的极性。关于ABSA的大部分研究是用英... 查看详情

论文泛读187使用bert基于阿拉伯语方面的情感分析

论文泛读195pgcd：用于基于方面的情感分析的位置引导贡献分布单元

贴一下汇总贴：论文阅读记录论文链接：《PGCD:aposition-guiedcontributivedistributionunitforaspectbasedsentimentanalysis》一、摘要基于方面的情感分析（ABSA），探索方面给定句子的情感极性，在社交媒体和舆论中得到了... 查看详情

论文泛读195pgcd：用于基于方面的情感分析的位置引导贡献分布单元

论文泛读174基于相关知识和目标的主动检索式聊天机器人

贴一下汇总贴：论文阅读记录论文链接：《ProactiveRetrieval-basedChatbotsbasedonRelevantKnowledgeandGoals》一、摘要主动对话系统具有主动引导对话的能力。与仅对用户做出反应的一般聊天机器人不同，主动对话系统可用于实现... 查看详情