关键词：
摘要：本文带大家从另一个角度来理解和认识图卷积网络的概念。
本文分享自华为云社区《技术综述十二：图网络的基本概念》，原文作者：一笑倾城。
基础概念
笔者认为，图的核心思想是学习一个函数映射f(.)f(.)，借助该映射，图中的节点可以聚合自己的特征与邻居节点的特征，从而生成该节点的新特征表示。
Figure 1. 图的一般推理过程[1]
图神经网络 Vs. 卷积神经网络
如图2所示，卷积神经网络的输入数据一般是规则的矩阵类型数据，例如图片。每个节点和其它节点的空间关系是固定的。而图神经网络的输入数据一般表现为不规则的拓扑结构，节点与节点的关系非常复杂，节点间的空间关系一般不做约束，节点间是否存在连接以及连接的数量不做约束。复杂的网络还涉及到连接的方向和子图等概念。
Figure 2. 图网络和卷积网络[1]
如图3所示，如果将图的每个节点等价视为图像中的每个像素，其实，图的工作过程可以类比CV中的经典问题：semantic segmentation。
Figure 3. semantic segmentation[2]
图的基础组件及其实现
图在工作过程中，主要需要处理的问题有两个，一个是节点信息的提炼方式；另一个是邻近节点的搜索方式。整理如下：
邻近节点的搜索方式:
- 每个节点考虑全部其它节点
- 基于欧氏距离，只搜索近邻N个节点
节点信息的提炼方式:
- MLP+Max Pooling直接进行特征融合
- 基于attention，对周边节点进行加权平均
- 普通attention
- Self-attention (Bert/Transformer)
其中，邻近节点的搜索方式有两种，基于Bert作为图卷积网络的方案，一般是全部节点统一输入，每个节点在进行self-attention时，统一考虑其它节点，因此，可以视为全局搜索，典型的样例是LayoutLM。而基于某种距离度量搜索邻近的节点的方式， 一般来说更加注重局部信息。可以依据特定任务进行一些定制化的距离设计。缺点是过于注重局部信息，不能让图网络充分发挥能力。
另一方面是节点信息的提炼方式，简单的方法就是直接对相邻节点做1\\times11×1卷积，再进行max pooling。目前更流行的方法是基于attention，普通attention，如图4所示，输入特征一般由中心节点特征t_iti和相邻节点t_jtj，以及彼此的距离等信息拼接而成，考虑周围32个节点，则生成32个特征，并在此基础上计算权重向量\\alpha_iαi，得到这32个特征向量的权重，再进行加权和，得到节点ii的新特征表达t'_iti′。基于self-attention的方法工作机制类似。
Figure 4. 图节点信息的提炼过程
总结
最后，图卷积和卷积之间的一些对比整理在图5中。我们可以观察到一些有趣的现象，其实在卷积网络中，也有邻近节点搜索方式的一些工作，例如空洞卷积和可变形卷积。
Figure 5. 图网络和卷积网络工作方式比较
参考文献：
[1] Wu, Zonghan, et al. “A comprehensive survey on graph neural networks.” IEEE transactions on neural networks and learning systems (2020).
[2] Long, Jonathan, Evan Shelhamer, and Trevor Darrell. “Fully convolutional networks for semantic segmentation.” Proceedings of the IEEE conference on computer vision and pattern recognition. 2015.
图卷积神经网络gcn的一些理解以及dgl代码实例的一些讲解(代码片段)
文章目录前言GCN传播公式例1例2DGL中的GCN实例dgl.DGLGraph.update_all参考前言近些年图神经网络十分火热，因为图数据结构其实在我们的现实生活中更常见，例如分子结构、人的社交关系、语言结构等等。NLP中的句法树、依存... 查看详情
从图(graph)到图卷积(graphconvolution)：漫谈图神经网络模型(代码片段)
...于图神经网络的系列文章，文章目录如下：从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(一)从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(二)从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(三)笔者最... 查看详情
从图(graph)到图卷积(graphconvolution)：漫谈图神经网络模型
...于图神经网络的系列文章，文章目录如下：从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(一)从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(二)从图(Graph)到图卷积(GraphConvolution)：漫谈图神经网络模型(三)在上一... 查看详情
考虑关系的图卷积神经网络r-gcn的一些理解以及dgl官方代码的一些讲解(代码片段)
...R-GAT，我感觉可能得再懂一点R-GCN和GAT才可能比较好的理解R-GAT，今天就尝试一下把R-GCN搞搞清楚吧（ 查看详情
基于图卷积网络的图深度学习
基于图卷积网络的图深度学习先简单回顾一下，深度学习到底干成功了哪些事情！深度学习近些年在语音识别，图片识别，自然语音处理等领域可谓是屡建奇功。ImageNet：是一个计算机视觉系统识别项目，是目前世界上图像识别... 查看详情
用于交通预测的时空交互动态图卷积网络
...动态关联。我们提出了一种基于神经网络的时空交互动态图卷积网络(STIDGCN)来解决上述交通预测 查看详情
如何使用图卷积网络对图进行深度学习(代码片段)
文章目录简介什么是图卷积网络？一个简单的传播规则存在的问题添加自循环规范化特征表示把它放在一起加回权重添加激活函数回到现实扎卡里的空手道俱乐部构建GCN结论简介由于高度复杂但信息丰富的图结构，图上... 查看详情
深度学习100例|第52天-图卷积神经网络（gcn）：实现论文分类
图卷积网络gcn
GCNCNN中的卷积本质上就是共享参数的过滤器，可以较为有效地提取空间特征而很多其他的研究中还有很多非欧拉结构的数据1.CNN无法处理非欧拉结构的数据，传统的离散卷积在NonEuclideanStructure的数据上无法保持平移不变性... 查看详情
深度学习与图神经网络核心技术实践应用高级研修班-day3图神经网络（gnn）(代码片段)
...2图神经网络的思想和工作原理1.3图神经网络的应用场景2.图卷积神经网络2.1图卷积神经网络的定义2.2图卷积神经网络的卷积方式2.3卷积神经网络与图卷积神经网络的区别2.4图卷积神经网络的卷积方式2.5图卷积神经网络的原理与理... 查看详情
gcn-图卷积神经网络算法简单实现（含python代码）(代码片段)
...程讲解三、代码实现和结果分析1.导入包2.数据准备¶3. 图卷积层定义4.GC 查看详情
腾讯技术工程|腾讯ailab11篇论文精选：图像描述nmt模型图卷积神经网络等
...计算成本的预测表现、NMT模型中的特定翻译问题、自适应图卷积神经网络、DNN面对对抗样本的优化问题等，本文精选了11篇论文的精彩内容。（本文转自公众号新智元）1.学习用于图像描述的引导解码（LearningtoGuideDecodingforImageCapt... 查看详情
gcn图卷积网络入门详解
...再深入了解它背后的数学原理。字幕组双语原文：【GCN】图卷积网络(GCN)入门详解英语原文：GraphConvolutionalNetworks(GCN)翻译：听风1996、大表哥许多问题的本质上都是图。在我们的世界里，我们看到很多数据都是图，比如分子、社... 查看详情
深度学习100例|第52天-图卷积神经网络（gcn）：实现论文分类(代码片段)
文章目录一、GCN是什么二、数据集-CoraDataset1.数据集介绍2.准备数据三、划分训练集、测试集和验证集四、模型训练1.Loss计算2.训练模型3.结果可视化五、同系列作品🚀我的环境：语言环境：Python3.6.5编译器：jupytern... 查看详情
可解释高效的异质图卷积神经网络
...：https://github.com/kepsail/ie-HGCN1.引言目前面向异质图的图卷积神经网络普遍存在两个重要的不足：（1）大部分已有工作依赖用户人工输入一系列任务相关的元路径（Meta-path），这对于没有专业知识的用户... 查看详情
图卷积神经网络(gcn)综述与实现（pytorch版)(代码片段)
图卷积神经网络(GCN)综述与实现（PyTorch版)本文的实验环境为PyTorch=1.11.0+cu113，PyG=2.0.4，相关依赖库和数据集的下载请见链接。一、图卷积神经网络介绍1.1传统图像卷积卷积神经网络中的卷积(Convolution)指的是... 查看详情
论文盘点：基于图卷积gnn的多目标跟踪算法解析
论文盘点：基于图卷积GNN的多目标跟踪算法解析Source:PaperWeekly [1]JiangX,LiP,LiY,etal.GraphNeuralBasedEnd-to-endDataAssociationFrameworkforOnlineMultiple-ObjectTracking[J].arXivpreprintarXiv:1907.05315,2019.&nb 查看详情
图卷积的演变-从谱图卷积到gcn
基础傅里叶级数是对周期为T的确定性信号做展开，而傅里叶变换将周期推广到无穷，能对具有任意长度的信号做展开。https://www.zhihu.com/question/21665935/answer/2367861632\\[\\hatf(t)=\\intf(x)\\exp^-iwtdx=\\intf(x)\\left(cos(wx)+isin(wx)\\right)dx\\]要在... 查看详情