[论文阅读笔记54]面向实体对齐的多视图知识图谱嵌入方法

happyprince happyprince     2022-12-21     224

关键词:

1. 题目

Multi-view Knowledge Graph Embedding for Entity Alignment
面向实体对齐的多视图知识图谱嵌入方法
论文:https://arxiv.org/pdf/1906.02390.pdf
代码:https://github.com/nju-websoft/MultiKE

2. 研究背景

研究的问题:
知识图(KGs)之间基于嵌入的实体对齐问题;

目前存在问题:
以前的方法主要是在实体关系结构上,后面也有把属性加入作为特征,可是也有大量的实体特征未被去研究。表现在两方面的限制:
首先,知识图谱中的实体具有不同的特性,但当前基于嵌入的实体对齐方法只利用了其中的一种或两种类型;
例如[MTransE,IPTransE,BootEA]只是用了实体关系;另外,[JAPE,KDCoE, AttrE]加入了属性,文本描述或文字等信息;
其次,现有的基于嵌入的实体对齐方法依赖于丰富的种子实体对齐作为标记的训练数据。 这个是成本有点大的。

贡献:
提出了一种基于多视图知识图谱嵌入的实体对齐框架,称为MultiKE;
具体来说,基于实体名称、关系和属性的视图嵌入实体,并使用几种组合策略;

在实体层面,关系层面,属性层面设计了两个跨数据库的方法;

提出三种不同的组合多视图的策略;

多视图,跨图谱推理,嵌入组合

3. 内容

3.1 多视图嵌入

本质是想把知识中特征,分成多个子集,这里叫做views; 名称/关系/属性特性

多视图特征例子:

实体嵌入对这三种视图中分别用不同的方法去学习,最后把学习结果联合起来达到实体性能提高结果。

3.1.1 Literal Embedding(字面意思的嵌入)

对于词嵌入采用的方法–Advances in pre-training distributed word representations

对于字符—Skip-Gram

φ(·)表示输入的字面嵌入, encode(·) 对嵌入的压缩表示;[; ] 表示把字符拼接起来;这里n最大取5,超过的会被截断,短的会用空格代替;

3.1.2 Name View Embedding

名字视的嵌入,是使用了字面嵌入的。

从对象抽取名字表示;

3.1.3 Relation View Embedding

基于TransE表达学习:

X _+ = X_a ∪ X_b:表示来自两图谱的正样本;X _−表示被随机替换了的负样本;

3.1.4 Attribute View Embedding

使用CNN去抽取;

<a;v>:表示属性及其值拼接成一个matrix;

对于一个fact(h,a,v),如下定义:

损失函数:

3.2 Cross-KG Training for Entity Alignment

基于种子实体对齐的跨kg实体对齐推断来捕获两个kg之间的对齐信息。

3.2.1 实体识别推理

我们利用少量已对齐的种子实体对作为监督数据:

关系:

3.2.2 Relation and Attribute Identity Inference

与实体识别推理差不多,不过这里增加了一个搞了辅助概率;

这里采用软相似性:由于不同知识图谱在本体层面可能差异巨大,所以我们不要求关系对是严格对齐的。

3.3 View Combination

3.3.1 Weighted View Averaging

,结果:

3.3.2 Shared Space Learning

引入一个正交矩阵,把视图嵌入映射到共享空间中。

Z_i表示看作为第i个视图嵌入空间映射到共享空间的映射矩阵。||·||F表示为Frobenius规范;

式中的第二项表示软正则的规约。

3.3.3 In-training Combination

联合多视图训练。

4. 训练过程

首先训练词与char的嵌入,然后训练其它的视图嵌入,软对齐也在迭代中计算;最后,如果是in-training的就不需要,否则进行合并。

5.实验

Datasets:DBP-WD,DBP-YG
对比方法使用了7种:MTransE, IPTransE, JAPE,BootEA, KDCoE, GCN-Align,AttrE ,也加了:TransD, HolE ,ConvE

从这个对比来看,提出模型有很大性能上是有很大的提升的。

视图影响分析:

Name还是比加高的,字面意义起到很大的作用。不过这个也是很合理的,一般相同实体,名称也是差不多相同的。ITC:in-training

combination

跨图谱推理影响

无监督实体对齐的分析

与常规方法对比分析

相关工作

KG embedding

分为三类:Translational 方法;Semantic matching方法;Neural方法

Embedding-based entity alignment

先嵌入,然后计算相似性;

Multi-view representation learning

多视图的的方法分三步:

(i)识别能够充分表示数据的多个视图;

(ii)对每个视图进行表示学习;

(iii)组合多个视图特定的表示。

参考:
【1】IJCAI 2019 论文:面向实体对齐的多视图知识图谱嵌入方法

论文笔记基于知识图谱的农业智能问答系统

基于知识图谱的农业智能问答系统前言知识图谱简介知识图谱生命周期知识获取知识抽取知识存储与应用相关技术和工具农业知识图谱构建流程本体层构建实体层构建基于Neo4j的农业知识图谱问答系统算法设计基于知识图谱的问... 查看详情

特定领域知识图谱知识融合方案(实体对齐):文娱知识图谱构建之人物实体对齐

相关文章项目链接:特定领域知识图谱知识融合方案(实体对齐):优酷领域知识图谱为例特定领域知识图谱知识融合方案(实体对齐):文娱知识图谱构建之人物实体对齐 查看详情

特定领域知识图谱知识融合方案(实体对齐):商品知识图谱技术实战

相关文章项目链接:特定领域知识图谱知识融合方案(实体对齐):优酷领域知识图谱为例特定领域知识图谱知识融合方案(实体对齐):文娱知识图谱构建之人物实体对齐 查看详情

特定领域知识图谱知识融合方案(实体对齐):基于图神经网络的商品异构实体表征探索

相关文章项目链接:特定领域知识图谱知识融合方案(实体对齐):优酷领域知识图谱为例特定领域知识图谱知识融合方案(实体对齐):文娱知识图谱构建之人物实体对齐 查看详情

视频文本检索论文笔记:fine-grainedvideo-textretrievalwithhierarchicalgraphreasoning

浅谈这篇论文Fine-grainedVideo-TextRetrievalwithHierarchicalGraphReasoning—2020CVPR        视频文本检索可以作为知识图谱中的多模态语义对齐,因为要做多模态知识图谱,所以先学习一些视频语义对齐,也就是视频文本检索... 查看详情

特定领域知识图谱知识融合方案(实体对齐)

优酷领域知识图谱为例基础方案1.1领域知识图谱模式层构建(业务侧已完成)在领域知识图谱中,模式层(SchemaLevel)的构建一般会先于数据层,知识图谱的schema在构建过程中,不仅借助行业专业人员并对大量的底层数据做分析和... 查看详情

论文阅读强化学习与知识图谱关系路径发现

论文标题:DeepPath:AReinforcementLearningMethodforKnowledgeGraphReasoning中文标题:深度路径:知识图谱推理的强化学习方法项目代码:GitHub@DeepPath论文下载:arxiv@1707.06690序言最近把之前写综述看的一百多篇paper整理... 查看详情

论文阅读强化学习与知识图谱关系路径发现

论文标题:DeepPath:AReinforcementLearningMethodforKnowledgeGraphReasoning中文标题:深度路径:知识图谱推理的强化学习方法项目代码:GitHub@DeepPath论文下载:arxiv@1707.06690序言最近把之前写综述看的一百多篇paper整理... 查看详情

论文阅读强化学习与知识图谱关系路径发现

论文标题:DeepPath:AReinforcementLearningMethodforKnowledgeGraphReasoning中文标题:深度路径:知识图谱推理的强化学习方法项目代码:GitHub@DeepPath论文下载:arxiv@1707.06690序言最近把之前写综述看的一百多篇paper整理... 查看详情

知识融合算法测试方案(知识生产质量保障)

相关文章项目链接:特定领域知识图谱知识融合方案(实体对齐):优酷领域知识图谱为例特定领域知识图谱知识融合方案(实体对齐):文娱知识图谱构建之人物实体对齐 查看详情

面向知识图谱的图嵌入学习进展

...实体).得力于知识图谱在各个领域的广泛应用,面向知识图谱的图嵌入学习也得到越来越多研究人员的关注.面向知识图谱的图嵌入学习任务旨在为图谱中的实体与关系学习低维且稠密的向量,通过图嵌入向量表达实... 查看详情

知识图谱概述之笔记1

文章目录1什么是知识图谱?2知识图谱的应用3知识图谱的技术流程3.1知识图谱技术要素4知识图谱架构5数据库划分1什么是知识图谱?知识图谱是一种用图模型来描述知识和建模世界万物之间的关联关系的技术方法【维基... 查看详情

知识图谱学习笔记

知识图谱信息是指外部的客观事实。举例:这里有一瓶水,它现在是7°。知识是对外部客观规律的归纳和总结。举例:水在零度的时候会结冰。在信息的基础上,建立实体之间的联系,就能行成“知识”。《Ex... 查看详情

知识图谱学习笔记

知识图谱信息是指外部的客观事实。举例:这里有一瓶水,它现在是7°。知识是对外部客观规律的归纳和总结。举例:水在零度的时候会结冰。在信息的基础上,建立实体之间的联系,就能行成“知识”。《Ex... 查看详情

知识图谱学习笔记(代码片段)

知识图谱学习笔记第一部分,包含RDF介绍,以及JenaRDFAPI使用知识图谱的基石:RDFRDF(ResourceDescriptionFramework),即资源描述框架,其本质是一个数据模型(DataModel)。它提供了一个统一的标准,用于描述实体/资源。简单来说,就是... 查看详情

收藏|面向知识图谱的图嵌入学习研究进展

点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★,第一时间获取资源仅做学术分享,如有侵权,联系删除转载于:软件学报知识图谱是一种用网络结构存储知识的知识库,在知识... 查看详情

3.知识图谱相关学习资料汇总,提供系统化的知识图谱学习路径。一份详细的指南,补全你知识的漏洞

目录理论及论文图谱及数据集工具及服务白皮书及报告机构及人物视频课程专栏合集评测竞赛项目案例推广技术文章1.整体概念架构随着知识图谱的发展,与之相关的概念也越来越多,在阅读论文时先准确的把握该论文所要解决... 查看详情

斯坦福大学《海量知识图谱框架》

...识图谱中的个体链接;(2)多跳推理,目标是预测哪些KG实体满足给定的逻辑查询。基于嵌入的方法解决了这两个任务,首先计算每个实体和关系的嵌入,然后使用它们来形成预测。然而,现有的可扩展的KG嵌入框架... 查看详情