关键词:
GCN
- CNN中的卷积本质上就是共享参数的过滤器,可以较为有效地提取空间特征
而很多其他的研究中还有很多非欧拉结构的数据
- 1.CNN无法处理非欧拉结构的数据,传统的离散卷积在Non Euclidean Structure的数据上无法保持平移不变性
- 2.希望在拓扑图上有效地提取空间特征来进行机器学习
- 3.广义上来讲任何数据在赋范空间内都可以建立拓扑关联,因此GCN有很大的应用空间
提取拓扑图空间特征的两种方式
-
(1)vertex domain
- 把顶点相邻的点找出来
- 问题就变成:怎么确定相邻点,怎么确定感受野,确定感受野怎么处理包含不同数目的相邻点的特征
- 相关的文章Convolutional Neural Networks for Graphs
-
(2)spectral domai
- 希望用图谱的理论来实现卷积操作
拉普拉斯矩阵
定义一个图的Laplacian矩阵 L = D − A L=D-A L=D−A
- L表示拉普拉斯矩阵
- D是顶点的度矩阵(对角矩阵,对角线上为图顶点的度)
- A是图的邻接矩阵
常用的Laplacian矩阵有三种
-
1. L = D − A L=D-A L=D−A
-
2. L s y s = D − 1 / 2 L D − 1 / 2 L^sys=D^-1/2LD^-1/2 Lsys=D−1/2LD−1/2,很多GCN使用
-
3. L r w = D − 1 L L^rw=D^-1L Lrw=D−1L
-
矩阵的谱分解、特征分解、对角化是同一个概念,充要条件是n阶方阵存在n个线性无关的特征向量
- 这里的特征值可以表示为频率
- 由Graph确定的n维空间中,越小的特征值 λ l \\lambda_l λl表明:拉普拉斯矩阵L其所对应的基 u l u_l ul上的分量信息越少,类似PCA降维里的原理
- 这里的特征值可以表示为频率
拉普拉斯算子与其关系
- 代数里拉普拉斯算子是一个二阶微分算子
nabla算子
∇
=
∂
∂
x
i
⃗
+
∂
∂
y
j
⃗
+
∂
∂
z
k
⃗
\\nabla = \\frac\\partial\\partial x\\vec i+\\frac\\partial\\partial y\\vec j+\\frac\\partial\\partial z\\vec k
∇=∂x∂i+∂y∂j+∂z∂k
拉普拉斯算子
Δ
f
=
∂
2
∂
x
2
i
⃗
+
∂
2
∂
y
2
j
⃗
+
∂
2
∂
z
2
k
⃗
\\Delta f = \\frac\\partial^2\\partial x^2\\vec i+\\frac\\partial^2\\partial y^2\\vec j+\\frac\\partial^2\\partial z^2\\vec k
Δf=∂x2∂2i+∂y2∂2j+∂z2∂2k
以二维的离散函数为例
Δ
f
=
∂
2
f
∂
x
2
+
∂
2
f
∂
y
2
=
f
(
x
+
1
,
y
)
+
f
(
x
−
1
,
y
)
+
f
(
x
,
y
+
1
)
+
f
(
x
,
y
−
1
)
−
4
f
(
x
,
y
)
\\Delta f = \\frac\\partial^2 f\\partial x^2+\\frac\\partial^2 f\\partial y^2\\\\ = f(x+1,y)+f(x-1,y)+f(x,y+1)+f(x,y-1)-4f(x,y)
Δf=∂x2∂2f+∂y2∂2f=f(x+1,y)+f(x−1,y)+f(x,y+1)+f(x,y−1)−4f(x,y)
- 所以拉普拉斯算子可以计算一个点到它所有自由度上微小扰动的增益
将2维推广到n维,即是在一张图中计算某点邻域的扰动
设对节点i的增益:
Δ
f
i
=
∑
j
∈
N
i
(
f
i
−
f
j
)
\\Delta f_i = \\sum_j\\in N_i(f_i-f_j)
Δfi=∑j∈Ni(fi−fj)
带边权则有
Δ
f
i
=
∑
j
∈
N
i
w
i
j
(
f
i
−
f
j
)
=
∑
j
∈
N
w
i
j
f
i
−
∑
j
∈
N
w
i
j
f
j
=
d
i
f
i
−
w
i
:
f
\\Delta f_i = \\sum_j\\in N_iw_ij(f_i-f_j)\\\\ =\\sum_j\\in Nw_ijf_i-\\sum_j\\in Nw_ijf_j\\\\ =d_if_i-w_i:f
Δfi=j∈Ni∑wij(fi−fj)=j∈N∑wijfi−j∈N∑wijfj=difi−wi:f
- 这里 d i d_i di是点i的度
-
w
i
:
gcn-图卷积神经网络算法简单实现(含python代码)(代码片段)
...程讲解三、代码实现和结果分析1.导入包2.数据准备¶3. 图卷积层定义4.GC 查看详情
图卷积神经网络gcn的一些理解以及dgl代码实例的一些讲解(代码片段)
...f0c;因此,图神经网络的学习也是必不可少的。GCNGCN是图卷积神经网络, 查看详情
gcn图卷积网络入门详解
...再深入了解它背后的数学原理。字幕组双语原文:【GCN】图卷积网络(GCN)入门详解英语原文:GraphConvolutionalNetworks(GCN)翻译:听风1996、大表哥许多问题的本质上都是图。在我们的世界里,我们看到很多数据都是图,比如分子、社... 查看详情
如何使用图卷积网络对图进行深度学习(代码片段)
文章目录简介什么是图卷积网络?一个简单的传播规则存在的问题添加自循环规范化特征表示把它放在一起加回权重添加激活函数回到现实扎卡里的空手道俱乐部构建GCN结论简介由于高度复杂但信息丰富的图结构,图上... 查看详情
深度学习100例|第52天-图卷积神经网络(gcn):实现论文分类(代码片段)
文章目录一、GCN是什么二、数据集-CoraDataset1.数据集介绍2.准备数据三、划分训练集、测试集和验证集四、模型训练1.Loss计算2.训练模型3.结果可视化五、同系列作品🚀我的环境:语言环境:Python3.6.5编译器:jupytern... 查看详情
考虑关系的图卷积神经网络r-gcn的一些理解以及dgl官方代码的一些讲解(代码片段)
文章目录前言R-GCN传播公式正则化DGL中的R-GCN实体分类的实例nn.Parametertorch.matmul参考前言昨天写的GCN的一篇文章入榜了,可喜可贺。但是感觉距离我的目标还是有点远,因为最后要用R-GAT,我感觉可能得再懂一点R-GCN和G... 查看详情
图卷积网络gcn
GCNCNN中的卷积本质上就是共享参数的过滤器,可以较为有效地提取空间特征而很多其他的研究中还有很多非欧拉结构的数据1.CNN无法处理非欧拉结构的数据,传统的离散卷积在NonEuclideanStructure的数据上无法保持平移不变性... 查看详情
图卷积网络gcn
GCNCNN中的卷积本质上就是共享参数的过滤器,可以较为有效地提取空间特征而很多其他的研究中还有很多非欧拉结构的数据1.CNN无法处理非欧拉结构的数据,传统的离散卷积在NonEuclideanStructure的数据上无法保持平移不变性... 查看详情
深入浅出图神经网络|gnn原理解析☄学习笔记图信号处理与图卷积神经网络(代码片段)
...网络|GNN原理解析☄学习笔记(五)图信号处理与图卷积神经网络文章目录深入浅出图神经网络|GNN原理解析☄学习笔记(五)图信号处理与图卷积神经网络矩阵乘法的三种形式图信号与图的拉普拉斯矩阵图傅里叶... 查看详情
图卷积神经网络(gcn)综述与实现(pytorch版)(代码片段)
图卷积神经网络(GCN)综述与实现(PyTorch版)本文的实验环境为PyTorch=1.11.0+cu113,PyG=2.0.4,相关依赖库和数据集的下载请见链接。一、图卷积神经网络介绍1.1传统图像卷积卷积神经网络中的卷积(Convolution)指的是... 查看详情
图卷积的演变-从谱图卷积到gcn
基础傅里叶级数是对周期为T的确定性信号做展开,而傅里叶变换将周期推广到无穷,能对具有任意长度的信号做展开。https://www.zhihu.com/question/21665935/answer/2367861632\\[\\hatf(t)=\\intf(x)\\exp^-iwtdx=\\intf(x)\\left(cos(wx)+isin(wx)\\right)dx\\]要在... 查看详情
gcn笔记:graphconvolutionneuralnetwork,chebnet
在 GNN笔记:图卷积_UQI-LIUWJ的博客-CSDN博客中,我们知道了谱图卷积相当于是那么问题在于,如何设计含有可训练的、共享参数的kernel呢? 1GCN-ver1.0(2013)1.0原理SpectralNetworksandDeepLocallyConnectedNetworksonGraphs... 查看详情
从0到1实现gcn——最详细的代码实现(代码片段)
最近论文中需要使用图卷积神经网络(GNN),看了一些关于GCN的代码,还有基于PyTorchGeometricTemporal的代码实现,在这里做一下记录。GCN原始代码关于GCN的原理在这里不进行过多阐述,其他文章里面解释的已... 查看详情
从图(graph)到图卷积(graphconvolution):漫谈图神经网络模型(代码片段)
...于图神经网络的系列文章,文章目录如下:从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(一)从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(二)从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(三)笔者最... 查看详情
从图(graph)到图卷积(graphconvolution):漫谈图神经网络模型
...于图神经网络的系列文章,文章目录如下:从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(一)从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(二)从图(Graph)到图卷积(GraphConvolution):漫谈图神经网络模型(三)在上一... 查看详情
论文笔记使用gcn建模关系数据
...噶带来帮助~感谢小姐妹带我读论文~本论文介绍的是关系图卷积网络模型(R-GCN),并在两个已知的知识库上实现关系预测与实体分类。R-GCN是在GCN的基础上优化得到的神经网络模型,原来的GCN处理的是具有拓扑结构的数据集之间... 查看详情
网络特征处理基于图神经网络
目录图神经网络处理网络特征图论图卷积网络GCN图神经网络的应用图神经网络处理网络特征图卷积网络GCN图注意力网络GAN图自编码器GA图生成网络图时空网络GSN图论我记得运筹学课本有一章节是讲过图论的。G=(V,E),V是土中节点的... 查看详情
论文笔记:semi-supervisedclassificationwithgraphconvolutionalnetworks
...,有label的那一部分,计算L0,以此进行训练2图卷积的快速估计考虑一个多层的GCN,其中第l层的propagation可以写成,A是邻接矩阵W是第l层的可学习参数σ是激活函数第零层=X 论文接下来的部分将说明这种propagation... 查看详情