这篇教程图神经网络(Graph Neural Network,GNN)写得很实用,希望能帮到您。 图神经网络(Graph Neural Network,GNN)是近年来出现的一种利用深度学习直接对图结构数据进行学习的框架,其优异的性能引起了学者高度的关注和深入的探索。通过在图中的节点和边上制定一定的策略,GNN 将图结构数据转化为规范而标准的表示,并输入到多种不同的神经网络中进行训练,在节点分类、边信息传播和图聚类等任务上取得优良的效果。 [1] GNN 的历史最早可以追溯到 2005 年,Gori 等人第一次提出 GNN 概念,用 RNN 来处理无向图、有向图、标签图和循环图等。在这之后,Scarselli 等人和 Micheli 等人继承和发展了该模式的 GNN 算法,并做了一定程度的改进。早期阶段的 GNN 主要是以 RNN 为主体框架,通过简单的特征映射和节点聚集为每个节点生成向量式表达,不能很好地应对现实中复杂多变的图数据。针对此情况,Bruna等人提出将 CNN 应用到图上,通过对卷积算子巧妙的转换,提出了图卷积网络(Graph Convolutional Netwok,GCN),并衍生了许多变体。GCN 实现了 CNN 在图上的平移不变、局部感知和权值共享[14],为接下来其他GNN 框架的构造和改进提供思想上的指导和借鉴。 [1] 从 2005 年 Gori 等人提出 GNN 概念,到 GCN的出现为非欧式结构数据提供有效的处理范式,再到 GAE、GAT、GRN、GGN 等不同 GNN 框架变种的提出以及 GNN 在各个领域的应用,GNN 在理论和实践上经历一个从无到有、从有到优化的过程,GNN 的体系族也在不断地发展和完善。从这段历程中,可以看出许多研究人员对 GNN 算法和结构的不断改进和优化。 [1] 图神经网络模型编辑 播报 图卷积网络 图卷积网络(Graph Convolutional Network,GCN)进行卷积操作主要有两种方法:一种是基于谱分解,即谱分解图卷积。另一种是基于节点空间变换,即空间图卷积。Bruna 等人第一次将卷积神经网路泛化到图数据上,提出两种并列的图卷积模型——谱分解图卷积和空间图卷积。 [1] 空间图卷积从图结构数据的空间特征出发,探讨邻居节点的表示形式,使得每个节点的邻居节点表示变得统一和规整,方便卷积运算。空间图卷积方法主要有三个关键问题,一是中心节点的选择;二是感受域的大小,即邻居节点个数的选取;三是如何处理邻居节点的特征,即构建合适的邻居节点特征聚合函数。 [1] 图自编码器 基于自编码器的 GNN 被称为图自编码器(Graph Auto-encoder,GAE),可以半监督或者无监督地学习图节点信息。 [1] 在深度学习领域,自编码器(Auto-encoder,AE)是一类将输入信息进行表征学习的人工神经网络。 [1] 图生成网络 图 生 成 网 络 ( Graph Generative Network,GGN)是一类用来生成图数据的 GNN,其使用一定的规则对节点和边进行重新组合,最终生成具有特定属性和要求的目标图。 [1] 图循环网络 图循环网络(Graph Recurrent Network,GRN)是最早出现的一种GNN模型。相较于其他的GNN算法,GRN 通常将图数据转换为序列,在训练的过程中序列会不断地递归演进和变化。GRN 模型一般使用双向循环神经网络(Bidirectional RNN,Bi-RNN)和长短期记忆网络(Long Short-Term Memory Network,LSTM)作为网络架构。 [1] 图注意力网络 注意力机制可以让一个神经网络只关注任务学习所需要的信息,它能够选择特定的输入。在 GNN 中引入注意力机制可以让神经网络关注对任务更加相关的节点和边,提升训练的有效性和测试的精度,由此形成图注意力网络(Graph Attention Network,GAT)。 [1] 应用编辑 播报 在节点层面,常见的有节点分类、节点聚合、节点表示学习。在边层面,则有边分类、边聚类以及链接预测。在图层面,图分类、图生成、子图划分、图相似度分析等应用较为广泛。按照图的种类划分,可以分为引文网络、社交网络、交通网络、图像、化合物分子结构、蛋白质网络等。按照应用领域划分,可以分为自然语言处理、图像处理、轨迹预测、物理化学和药物医学等。 [1] GNN论文 图神经网络(GNNs) |