论文泛读187使用bert基于阿拉伯语方面的情感分析

及时行樂_ 及时行樂_     2022-12-15     717

关键词:

贴一下汇总贴:论文阅读记录

论文链接:《Arabic aspect based sentiment analysis using BERT》

一、摘要

基于方面的情感分析(ABSA)是一种文本分析方法,它定义了与特定目标相关的某些方面的观点的极性。关于ABSA的大部分研究是用英语进行的,少量工作是用阿拉伯语进行的。大多数先前的阿拉伯语研究依赖于深度学习模型,该模型主要依赖于与上下文无关的单词嵌入(例如,word2vec),其中每个单词都有独立于其上下文的固定表示。本文从预先训练的语言模型(如BERT)中探索上下文嵌入的建模能力,并在阿拉伯语ABSA任务中使用句子对输入。特别是,我们正在建立一个简单但有效的基于BERT的神经基线来处理这项任务。根据在基准阿拉伯酒店评论数据集上的实验结果,我们具有简单线性分类层的BERT架构超越了最先进的作品。

二、结论

在本文中,我们探索了上下文嵌入的建模能力,从预先训练的BERT模型中受益于阿拉伯语ABSA任务的句子对输入。具体来说,我们研究了将BERT嵌入组件与简单的线性分类层相结合,并在阿拉伯酒店评论数据集上进行了广泛的实验。实验结果表明,尽管我们的模型很简单,但它超越了最先进的作品,并且对过度拟合具有鲁棒性。

三、模型架构

BERT使用双向能力在两个独立但相关的自然语言处理任务上进行了预训练:掩蔽语言建模和下一句预测。BERT有效地处理了理解自然语言最困难的方面——歧义,在分析接近人类的语言时可以达到很高的准确率。

一些对比实验:

论文泛读198通过输入空间转换利用bert进行多模态目标情感分类

贴一下汇总贴:论文阅读记录论文链接:《ExploitingBERTForMultimodalTargetSentimentClassificationThroughInputSpaceTranslation》一、摘要多模态目标/方面情感分类结合了多模态情感分析和方面/目标情感分类。该任务的目标是结合视觉和语... 查看详情

论文泛读198通过输入空间转换利用bert进行多模态目标情感分类

贴一下汇总贴:论文阅读记录论文链接:《ExploitingBERTForMultimodalTargetSentimentClassificationThroughInputSpaceTranslation》一、摘要多模态目标/方面情感分类结合了多模态情感分析和方面/目标情感分类。该任务的目标是结合视觉和语... 查看详情

论文泛读198通过输入空间转换利用bert进行多模态目标情感分类

贴一下汇总贴:论文阅读记录论文链接:《ExploitingBERTForMultimodalTargetSentimentClassificationThroughInputSpaceTranslation》一、摘要多模态目标/方面情感分类结合了多模态情感分析和方面/目标情感分类。该任务的目标是结合视觉和语... 查看详情

论文泛读195pgcd:用于基于方面的情感分析的位置引导贡献分布单元

贴一下汇总贴:论文阅读记录论文链接:《PGCD:aposition-guiedcontributivedistributionunitforaspectbasedsentimentanalysis》一、摘要基于方面的情感分析(ABSA),探索方面给定句子的情感极性,在社交媒体和舆论中得到了... 查看详情

论文泛读195pgcd:用于基于方面的情感分析的位置引导贡献分布单元

贴一下汇总贴:论文阅读记录论文链接:《PGCD:aposition-guiedcontributivedistributionunitforaspectbasedsentimentanalysis》一、摘要基于方面的情感分析(ABSA),探索方面给定句子的情感极性,在社交媒体和舆论中得到了... 查看详情

论文泛读167使用bert语言模型的大规模新闻分类:sparknlp方法

贴一下汇总贴:论文阅读记录论文链接:《Large-ScaleNewsClassificationusingBERTLanguageModel:SparkNLPApproach》一、摘要基于NLP的大数据分析的兴起增加了大规模文本处理的计算负担。NLP面临的问题是非常高维的文本,因此需要很... 查看详情

论文泛读167使用bert语言模型的大规模新闻分类:sparknlp方法

贴一下汇总贴:论文阅读记录论文链接:《Large-ScaleNewsClassificationusingBERTLanguageModel:SparkNLPApproach》一、摘要基于NLP的大数据分析的兴起增加了大规模文本处理的计算负担。NLP面临的问题是非常高维的文本,因此需要很... 查看详情

论文泛读156使用情感分析方法从社交媒体文本语料库中识别消极因素

贴一下汇总贴:论文阅读记录论文链接:《Identifyingnegativityfactorsfromsocialmediatextcorpususingsentimentanalysismethod》一、摘要自动情感分析在决策中起着至关重要的作用。许多组织花费大量预算通过手动查看他们的反馈/评论或推... 查看详情

论文笔记基于语义依赖和上下文矩的深度掩码记忆网络在方面级情感分类中的应用(英文题目太长)

...manticDependencyandContextMomentforAspectLevelSentimentClassification这篇论文来自IJCAI-2019,其结果也是目前非Bert模型中已发表论文的最高水平。这个模型相较于上面那一篇要复杂很多,是一篇名副其实的IJCAI论文。这篇论文较于上一篇... 查看详情

论文泛读200通过适配器使用预训练语言模型进行稳健的迁移学习

贴一下汇总贴:论文阅读记录论文链接:《RobustTransferLearningwithPretrainedLanguageModelsthroughAdapters》一、摘要使用大型预训练的基于Transformer的语言模型(如BERT)进行迁移学习已成为大多数NLP任务的主要方法。简单地... 查看详情

论文泛读200通过适配器使用预训练语言模型进行稳健的迁移学习

贴一下汇总贴:论文阅读记录论文链接:《RobustTransferLearningwithPretrainedLanguageModelsthroughAdapters》一、摘要使用大型预训练的基于Transformer的语言模型(如BERT)进行迁移学习已成为大多数NLP任务的主要方法。简单地... 查看详情

论文泛读185考虑情绪成分过程模型的情绪识别

贴一下汇总贴:论文阅读记录论文链接:《EmotionRecognitionunderConsiderationoftheEmotionComponentProcessModel》一、摘要文本中的情感分类通常使用神经网络模型执行,该模型学习将语言单元与情感联系起来。虽然这通常会带来良... 查看详情

论文泛读185考虑情绪成分过程模型的情绪识别

贴一下汇总贴:论文阅读记录论文链接:《EmotionRecognitionunderConsiderationoftheEmotionComponentProcessModel》一、摘要文本中的情感分类通常使用神经网络模型执行,该模型学习将语言单元与情感联系起来。虽然这通常会带来良... 查看详情

论文泛读176具有各向同性和等距条件的跨语言bert上下文嵌入空间映射

贴一下汇总贴:论文阅读记录论文链接:《Cross-LingualBERTContextualEmbeddingSpaceMappingwithIsotropicandIsometricConditions》一、摘要通常,线性正交变换映射是通过对齐静态类型级嵌入来构建共享语义空间来学习的。鉴于上下文嵌... 查看详情

论文泛读176具有各向同性和等距条件的跨语言bert上下文嵌入空间映射

贴一下汇总贴:论文阅读记录论文链接:《Cross-LingualBERTContextualEmbeddingSpaceMappingwithIsotropicandIsometricConditions》一、摘要通常,线性正交变换映射是通过对齐静态类型级嵌入来构建共享语义空间来学习的。鉴于上下文嵌... 查看详情

论文泛读194用于中文评论文本的中文情感分析的transformer-encoder-gru(te-gru)

贴一下汇总贴:论文阅读记录论文链接:《Transformer-Encoder-GRU(T-E-GRU)forChineseSentimentAnalysisonChineseCommentText》一、摘要由于其复杂性和不确定性,中文情感分析(CSA)一直是自然语言处理中的挑战之一。Transformer... 查看详情

论文泛读194用于中文评论文本的中文情感分析的transformer-encoder-gru(te-gru)

贴一下汇总贴:论文阅读记录论文链接:《Transformer-Encoder-GRU(T-E-GRU)forChineseSentimentAnalysisonChineseCommentText》一、摘要由于其复杂性和不确定性,中文情感分析(CSA)一直是自然语言处理中的挑战之一。Transformer... 查看详情

论文泛读194用于中文评论文本的中文情感分析的transformer-encoder-gru(te-gru)

贴一下汇总贴:论文阅读记录论文链接:《Transformer-Encoder-GRU(T-E-GRU)forChineseSentimentAnalysisonChineseCommentText》一、摘要由于其复杂性和不确定性,中文情感分析(CSA)一直是自然语言处理中的挑战之一。Transformer... 查看详情