深入浅出图神经网络|gnn原理解析☄学习笔记图信号处理与图卷积神经网络(代码片段)

白鳯 白鳯     2022-12-17     763

关键词:

深入浅出图神经网络|GNN原理解析☄学习笔记(五)图信号处理与图卷积神经网络


图信号处理Graph Signal Processing, GSP)是 离散信号处理Discrete Signal ProcessingDSP)理论在图信号领域的应用,其通过对傅里叶变换、滤波等信号处理基本概念的迁移,来研究对图信号的压缩、变换、重构等信号处理的基础任务。

图信号处理与图卷积模型密不可分:一方面,理解图信号处理对于了解图卷积模型的定义和演变有十分重要的帮助;一方面,图信号处理也为卷积模型的理论研究提供了十分实用的工具。


矩阵乘法的三种形式

设两个矩阵 A ∈ R K × M A∈R^K×M ARK×M B ∈ R M × P B∈R^M×P BRM×P,对于 C = A B C=AB C=AB,有如下三种计算方式:

  • 内积视角:将A视作一个行向量矩阵,将B视作一个列向量矩阵,则:
    C i j = A i , ; B : , j C_ij=A_i,;B_:,j Cij=Ai,;B:,j

  • 行向量视角:将B视作一个行向量矩阵,将A视作系数矩阵,则:
    C i , : = ∑ m M A i m B m , : C_i,:=\\sum_m^MA_imB_m,: Ci,:=mMAimBm,:

  • 列向量视角:将A视作一个列向量矩阵,将B视作系数矩阵,则:
    C : , j = ∑ m M B m j A : , m C_:,j=\\sum_m^MB_mjA_:,m C:,j=mMBmjA:,m


图信号与图的拉普拉斯矩阵

拉普拉斯矩阵Laplacian Matrix)是用来研究图的结构性质的核心对象,拉普拉斯矩阵的定义如下: L = D − A L=D-A L=DA,D是一个对角矩阵, D i i = ∑ j A i j D_ii=\\sum_jA_ij Dii=jAij表示的是节点 v i v_i vi的度。拉普拉斯矩阵的元素级别定义如下:
L i j = d e g ( v i ) i f : i = j − 1 i f : e i j ∈ E 0 o t h e r w i s e L_ij=\\begincases deg(v_i) \\quad if: i = j\\\\ -1 \\quad if:e_ij∈E\\\\ 0 \\quad otherwise \\endcases Lij=deg(vi)if:i=j1if:eijE0otherwise
拉普拉斯矩阵的正则化形式(symmetric normalized laplacian) L s y m = D − 1 / 2 L D − 1 / 2 L_sym=D^-1/2LD^-1/2 Lsym=D1/2LD1/2,元素级别定义如下:
L i j = 1 i f : i = j − 1 d e g ( v i ) d e g ( v j ) i f : e i j ∈ E 0 o t h e r w i s e L_ij=\\begincases 1 \\quad if: i = j\\\\ \\frac-1\\sqrtdeg(v_i)deg(v_j) \\quad if:e_ij∈E\\\\ 0 \\quad otherwise \\endcases Lij=1if:i=jdeg(vi)deg(vj) 1if:eijE0otherwise
拉普拉斯矩阵的定义来源于拉普拉斯算子,拉普拉斯算子是n维欧式空间中的一个二阶微分算子: Δ f = ∑ i = 1 n δ 2 f δ x i 2 \\Delta f=\\sum_i=1^n\\fracδ^2fδx_i^2 Δf=i=1nδxi2δ2f

。如果将该算子的作用域退化到离散的二维图像空间,就成了我们非常熟悉的边缘检测算子,其作用原理如下:
Δ f ( x , y ) = δ 2 f ( x , y ) δ x 2 + δ 2 f ( x , y ) δ y 2 = [ f ( x + 1 , y ) + f ( x − 1 , y ) + f ( x , y + 1 ) + f ( x , y − 1 ) ] − 4 f ( x , y ) \\Delta f(x,y)=\\fracδ^2f(x,y)δx^2+\\fracδ^2f(x,y)δy^2\\\\ =[f(x+1,y)+f(x-1,y)+f(x,y+1)+f(x,y-1)]-4f(x,y) Δf(x,y)=δx2δ2f(x,y)+δy2δ2f(x,y)=[f(x+1,y)+f(x1,y)+f(x,《深入浅出图神经网络》gnn原理解析☄学习笔记图的概述(代码片段)

《深入浅出图神经网络》GNN原理解析☄学习笔记(一)图的概述文章目录《深入浅出图神经网络》GNN原理解析☄学习笔记(一)图的概述图的基本定义图的基本类型邻居和度子图与路径图的存储与遍历邻接矩阵和... 查看详情

深入浅出图神经网络|gnn原理解析☄学习笔记表示学习(代码片段)

深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习文章目录深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习表示学习表示学习的意义离散表示与分布式表示端到端学习基于重构损失的方法—... 查看详情

《深入浅出图神经网络》gnn原理解析☄学习笔记神经网络基础(代码片段)

《深入浅出图神经网络》GNN原理解析☄学习笔记(二)神经网络基础文章目录《深入浅出图神经网络》GNN原理解析☄学习笔记(二)神经网络基础机器学习基本概念机器学习分类机器学习流程概述常见的损失函数... 查看详情

《深入浅出图神经网络:gnn原理解析》

 深入浅出图神经网络:GNN原理解析https://cread.jd.com/read/startRead.action?bookId=30567027&readType=1 作者:ZZU_chenhao仅仅是一名普通的研究生而已。原创 【学习日记】《深入浅出:图神经网络》:第四天---表示学习表示学习表... 查看详情

深入浅出图神经网络|gnn原理解析☄学习笔记图的概述(代码片段)

《深入浅出图神经网络》GNN原理解析☄学习笔记(一)图的概述文章目录《深入浅出图神经网络》GNN原理解析☄学习笔记(一)图的概述图的基本定义图的基本类型邻居和度子图与路径图的存储与遍历邻接矩阵和... 查看详情

图神经网络实战深入浅出地学习图神经网络gnn(上)(代码片段)

文章目录一、图神经网络应用领域1.1芯片设计1.2场景分析与问题推理1.3推荐系统1.4欺诈检测与风控相关1.5知识图谱1.6道路交通的流量预测1.7自动驾驶(无人机等场景)1.8化学,医疗等场景1.9物理模型相关二、图神经网... 查看详情

图神经网络学习笔记|基础知识与gnn介绍直观透彻理解

一、基础知识GNN是指使用神经网络来学习图结构数据,提取和挖掘图结构数据中有效的特征和模式,满足聚类、分类、预测、分割、生成、异常检测等图学习任务需求的算法总称。GCN实现了CNN在图上的平移不变、局部感知和权值... 查看详情

图机器学习(gml)&图神经网络(gnn)原理和代码实现(前置学习系列二)(代码片段)

...一展示,详情进入项目链接即可图机器学习(GML)&图神经网络(GNN)原理和代码实现(PGL 查看详情

人工智能中图神经网络gnn是什么?

...习需求,机器之心联合极验团队向读者们赠送20本《深入浅出图神经网络:GNN原理解析》,欢迎大家积极留言获得赠书。图深度学习(GraphDeepLearning,GDL)是一个很有发展前景的研究领域,基于图数据来... 查看详情

李宏毅机器学习|图神经网络graphnerualnetworks(gnn)|学习笔记-part1

...IN(GraphIsomorphismNetwork)前言最近看的论文里面主要是就是图神经网络GraphNerualNetworks,然后就来学习下李宏毅机器学习中的图神经网络的内容,记个笔记。视频地址1Introduction GNN简单来说就是Graph+NerualNetworks,关键问题就是... 查看详情

深度学习与图神经网络核心技术实践应用高级研修班-day3图神经网络(gnn)(代码片段)

图神经网络基础和基本思想1.图神经网络1.1图神经网络的定义和目标1.2图神经网络的思想和工作原理1.3图神经网络的应用场景2.图卷积神经网络2.1图卷积神经网络的定义2.2图卷积神经网络的卷积方式2.3卷积神经网络与图卷积神经... 查看详情

论文笔记acomprehensivesurveyongraphneuralnetworks(gnn综述)

...法的研究。在本篇文章中,作者总结了目前主要的图神经网络模型,并提出了一种新的分类方法将目前的图神经网络分为以下四种& 查看详情

图神经网络gnn学习路径(代码片段)

...点。1.DL库及数据集1.1GNN通用DL库pyg和dgl是比较火的两个图神经网络仓库。但是用起来也有缺陷,比如使用比较流行的图数据集很方便,但是如果要自定义数据集,那就要对其数据集构建风格足够了解。因此对要使用新... 查看详情

图神经网络gnn学习路径(代码片段)

...点。1.DL库及数据集1.1GNN通用DL库pyg和dgl是比较火的两个图神经网络仓库。但是用起来也有缺陷,比如使用比较流行的图数据集很方便,但是如果要自定义数据集,那就要对其数据集构建风格足够了解。因此对要使用新... 查看详情

论文笔记acomprehensivesurveyongraphneuralnetworks(gnn综述)

...分类:在本篇文章中,作者总结了目前主要的图神经网络模型,并提出了一种新的分类方法将目前的图神经网络分为以下四种:循环图神经网络(RecGNN),卷积图神经网络(ConvGNN),图自动编码器(GAE)... 查看详情

李宏毅机器学习|图神经网络graphnerualnetworks(gnn)|学习笔记-part2

频域上的图神经网络之前时域上之所以不对数据和卷积一样做卷积处理,是因为在图神经网络中,各个节点都不规范,没办法引用规范的卷积核进行卷积操作。这里我们可以把这一理念在频域中运用。我们知道,... 查看详情

gnn通俗笔记:图神经网络在推荐/广告中的应用

原始视频:七月在线公开课《图神经网络在推荐广告场景中的应用》,课件可以打开视频页面下载分享老师:推荐吴老师,推荐/广告算法专家,曾任部门算法负责人,年薪....不低字幕校对:天保,... 查看详情

自然语言处理nlp——图神经网络与图注意力模型(gnngcngat)(代码片段)

目录系列文章目录一、图神经网络1.图与图嵌入2.GNN动机2.1CNN的缺陷与非结构性数据2.2图嵌入的缺陷3.GNN详解3.1GNN简介3.2GNN模型3.3GNN框架3.4GNN局限与优化二、图卷积神经网络1.卷积2.GCN详解2.1GCN动机2.2GCN简介2.3GCN思想与模型2.4GCN核... 查看详情