论文阅读笔记A Comprehensive Survey on Graph Neural Networks
A Comprehensive Survey on Graph Neural Networks
Abstract:
在这项调查中，我们提供了一个全面的概述图神经网络(GNNs)在数据挖掘和机器学习领域。提出了一种新的分类方法，将最先进的图神经网络划分为不同的类别。以图卷积网络为重点，我们回顾了最近发展起来的替代架构;这些学习范式包括图注意网络、图自动编码器、图生成网络和图时空网络。我们进一步讨论了图神经网络在各个领域的应用，总结了现有算法在不同学习任务上的开放源代码和基准。最后，提出了这一快速发展领域的研究方向。
1 Introduction
深度学习在许多领域的成功，部分归功于快速发展的计算资源(如GPU)和大型训练数据的可用性，部分归功于深度学习从欧几里德数据(如图像、文本和视频)中提取潜在表示的有效性。以图像分析为例，将图像表示为欧几里得空间中的规则网格。卷积神经网络(CNN)能够利用图像数据[8]的移位不变性、局部连通性和组合性，因此CNN可以为各种图像分析任务提取与整个数据集共享的有意义的局部特征。
图数据的复杂性给现有的机器学习算法带来了巨大的挑战。
为了处理复杂的图形数据，在过去几年里，对重要操作的新的概括和定义得到了迅速发展。
这项调查旨在为想要进入这一快速发展领域的感兴趣的研究人员和想要比较图神经网络算法的专家提供这些方法的全面概述。
图神经网络的简单历史：
这些早期的研究通过递归神经结构迭代地传播邻居信息，直到达到一个稳定的不动点，从而学习目标节点的表示。
以前计算很贵，现在解决了。在我们的调查中，我们概括了图神经网络来代表所有的图数据深度学习方法。
Bruna等人(2013)首次提出了关于GCNs的重要研究，该研究基于谱图理论[21]发展了一种图卷积变体。由于谱方法通常同时处理整个图，且难以并行或缩放到大型图，基于空间的图卷积网络近年来发展迅速。
除了图卷积网络外，在过去的几年里，许多替代的图神经网络也得到了发展。这些方法包括图注意网络、图自动编码器、图生成网络和图时空网络。关于这些方法的分类的详细信息在第3节中给出。
图神经网络相关调研
Bronstein等人[8]使用几何深度学习的概念，概述了非欧几里德领域的深度学习方法，包括图形和流形。
…
介绍各个调研的情况以及说他们调研的不充分，可以跳过不看
Graph neural networks vs. network embedding：
图神经网络的研究与图嵌入或网络嵌入密切相关，这是另一个越来越受到数据挖掘和机器学习社区[33]，[34]，[35]，[36]，[37],[38]关注的课题。
网络嵌入旨在表示网络顶点到一个低维向量空间,通过保留网络拓扑结构和节点内容信息,以便任何后续图分析任务,如分类、聚类,推荐可以很容易地由使用简单的现成的机器学习算法(例如,支持向量机分类)执行。
许多网络嵌入算法是典型的无监督算法，它们可以大致分为三组[33]，即、矩阵因子分解[39]、[40]、随机游走[41]、深度学习方法。同时用于网络嵌入的深度学习方法属于图神经网络，其中包括基于图自编码器的算法(如DNGR[42]和SDNE)
和无监督训练的图卷积神经网络（如GraphSage [25])。
图2描述了本文中网络嵌入与图神经网络的区别。
我们论文的显著贡献：
-
新的分类法
鉴于对图数据深度学习的研究越来越多，我们提出了一种新的图神经网络分类法。在此分类法中，GNN分为五类：图卷积网络，图注意力网络，图自动 编码器，图生成网络和图时空网络。我们查明了图神经网络与网络嵌入之间的区别，并绘制了不同图神经网络架构之间的联系。 -
综合广泛地调研
本调查为图形数据的现代深度学习技术提供了最全面的概述。针对每种类型的图神经网络，我们对典型的算法进行了详细的描述，并对相应的算法进行了必要的比较和总结。 -
丰富的资源
该调查提供了丰富的图形神经网络资源，包括最先进的算法、基准数据集、开放源代码和实际应用。这项调查可以作为理解、使用和开发不同的深度学习方法以适应各种实际应用的实践指南。 -
下一步的方向
本研究也强调了现有算法的局限性，并指出了这个快速发展的领域可能的发展方向。