这一系列是对刘知远老师《Introduction to Graph Neural Networks》的阅读笔记，并参考各路神仙大佬的论文和博客，对GNN脉络进行了一次梳理，受益匪浅。作为系列第一篇，本文主要介绍 谱域图卷积 。
数学基础
Vanilla Graph Neural Networks
简介
如下图所示，Vanilla GNN用于处理无向同质图（Undirected Homogeneous Graph），结点和边都包含特征。
图中的一个结点由它的自身特征及其邻结点共同定义。Vanilla GNN的目的是为每一个结点学习一个Embedding：，称之为隐状态，其中编码了其自身特征和邻结点的信息。
进一步用来计算结点标签分布的
，比如分类器的输出。
模型
Vanilla GNN分别用
和
表示结点
的边集合和邻结点集合。方法定义了两个带参函数 local transition function
和 local output function
，分别用来求
和
：
其中接受的四个参数分别是：
- 结点的特征；
- 的特征；
- 邻结点的隐状态；
- 邻结点的特征。
上述的两个local函数是针对每个结点而言，对所有结点我们可以用，，和分别表示。四者分别表示所有隐状态、所有输出、所有特征和所有结点特征的堆叠。那么式(1.1)和(1.2)可以进一步表示为：
和分别称为 global transition function 和 global output function ，同样，它们也分别是和的堆叠版本。
Vanilla GNN迭代更新结点的隐状态：
表示当前迭代轮数。
不动点理论 （此处的不动点理论专指巴拿赫不动点定理Banach's Fixed Point Theorem ）保证了Vanilla GNN解的存在和唯一性。
不动点理论是说，对于任意初始隐状态，只要是压缩映射（Contraction Map），一定能在若干轮次后收敛到某个固定的点，即不动点。对于压缩映射，这里引用[1]的图例：
https://www.cnblogs.com/SivilTaram/p/graph\_neural\_network\_1.html
上图是说，对于和两个点，经过后转换为和。压缩是指经变换后的新空间一定要比原空间小，可通过如下方式度量：
为距离度量函数。如果对迭代过程的每一轮都做如上要求，那么最后的压缩空间会把所有点映射到一个不动点上。
如果我们用范数（norm）做距离度量，式（1.6）可以做如下变换：
令：
由此可以看到， 的压缩映射等价于令的梯度/导数小于1。
于是，我们可以用前馈神经网络并对雅可比矩阵施加惩罚项来使近似压缩映射。
回到Vanilla GNN，它的损失函数为：
其中为个有监督结点的标签。再加上需要对雅可比矩阵施加的惩罚项，可以得到目标函数：
引用原论文[2]的网络架构，可以清晰的回顾上述过程。从下图可以观察到（a）特征只在连通结点之间传播；（b）和的参数对所有结点共享且每一轮迭代都是同一组参数。
https://www.wikiwand.com/en/Laplacian\_matrix
如果我们把上图中每个像素点视为图中的结点，可以看到在迭代开始时有很多不同颜色的结点（颜色差异越大表示特征差异越大），但随着迭代的深入，所有结点的颜色趋于一致。
-
效率问题 ：和RNN等方法不同的是，vanilla GNN需要迭代至收敛，所以迭代次数可能会很大；
-
参数 ：vanilla GNN每轮参数一样，表达能力欠缺；
-
过平滑（over smooth） ：如果迭代轮数过大且我们的是关注结点特征的话，过大的轮数会导致过平滑问题，导致所有结点特征都差不多，如Wikipedia上的一张经典的图[3]。
Graph Convolutional Networks
本部分框架参考张寓弛前辈的博客[7]并做了简化以便于理解，更深刻的解读强烈推荐读一下前辈的博客。笔者为了直观的描述动机，下文暂且放弃了一些严谨性（能省略的都省略了）。
要想理解GCN以及其后面一系列工作的实质，最重要的是理解其中的精髓Laplacian矩阵在干什么 。知道了Laplacian矩阵在干什么后，剩下的只是解法的不同——所谓的Fourier变换只是将问题从空域变换到频域去解，所以也有直接在空域解的（例如GraphSage）。——[7]
拉普拉斯算子是干什么的？
我们从热量（也可以理解为能力、状态、信息、特征）传播的角度入手。
如下图，假设我们有四个时刻的热量（将时间离散化 了），每一刻的能量受其相邻时刻的能量的影响。
t1时刻的能力可以描述为：
观察右边两项，是 两个差分的差分。 在离散空间，相邻位置的差分推广到一维连续空间就是导数，那么两个差分的差分推广到一维连续空间就是 二阶导 。
是关于某个的函数，所以式（2.1）在一维连续空间中可以改写为：
进一步推广至高维连续欧氏空间 中，可得：
就是拉普拉斯算子（或者写成
）！它代表各个坐标二阶导数的加和。
二维空间：
三维空间：
综上，我们可以看到某个时刻的温度变化可以用拉普拉斯算子衡量，拉普拉斯算子是二阶导对高维空间的推广。
拉普拉斯矩阵是干什么的？
如果我们把上面的一维热量传播路径改成图：
会发现其实是一个道理，不同的是每个时间结点连接的边不止一条。我们可以借助邻接矩阵来刻画式（2.1）在图中的情景：
展开：
再进一步扩展到所有结点上：
这个就是拉普拉斯矩阵！
通过对比式（2.6）和 （2.3）,可以认为：拉普拉斯矩阵等价于离散的拉普拉斯算子。
拉普拉斯矩阵描述了物理量的流入/流出；以及二维空间中的温度/特征/信息的传播规律。
对式（2.6）的进一步分析
如果我们进一步把式（2.6）左边一项的时间离散化，可得到：
这不就是 新自身状态 = 自身状态+聚合的邻结点状态 嘛 ！
那么，在GCN中每个节点状态的变化正比于图拓扑空间中拉普拉斯算子作用在当前的状态。
知道了正比关系这个题，后文就是关于解题方法的内容。
GCN章节的余下内容为：
Spectral Network[6]
（无向图前提下）
图卷积就是把卷积应用到图数据中，而我们也清楚常规的卷积核无法直接应用到图结构中。因为图这种非欧几里得结构的数据无法保持 平移不变性 。即每个结点的邻结点数目可能不同，无法用同一个尺寸的卷积核进行卷积运算[5]。
一种解法是曲线救国：在 谱域（Spectral Domain） 进行：
- 对图和卷积核做傅里叶变换（Fourier Transform） ；
- 然后在傅里叶域中对二者进行哈达玛乘积（Hadamard product） ；
- 最后再将乘积结果做 傅里叶逆变换（Inverse Fourier Transform） 换回去。
上述过程如下图所示：
http://speech.ee.ntu.edu.tw/~tlkagk/courses\_ML20.html[4]
上述过程可以描述为函数卷积的傅里叶变换是函数傅里叶变换的乘积。
其中 表示傅里叶变换， 表示哈达玛乘积。 和 是两个时域信号，对应卷积，二者分别表示结点特征和卷积核。
傅里叶变换长啥样[9]？
其中，表示信号，为基函数。该式其实就是拉普拉斯算子的广义特征函数，因为其实是拉普拉斯算子的特征向量：
所以傅里叶变换相当于换了坐标系（以为基向量），是对同一个数学对象在不同坐标系下的不同表达方式，某些情况下，傅里叶变换可以带来计算上的便利。
回到和上文同样的思路，我们将傅里叶变换迁移到Graph中。
拉普拉斯矩阵的优良性质[8]：
- 半正定，实对称；
- (实对称矩阵)有n个线性无关的特征向量；
- (半正定矩阵)特征值非负；
- (实对称矩阵的)特征向量可以化为两两正交的正交矩阵。
拉普拉斯矩阵可做如下分解：
对应傅里叶变换(公式(2.8))，我们在图中的离散空间做如下类比：
写作矩阵形式（整个图的个结点）：
所以，对式（2.7）可以描述为：
我们把记为可学习的图 卷积核， 是特征值构成的对角矩阵。那么最后得到的图卷积就是：
好了！这就是频域卷积的原始形式了！
The spectral construction, draws on the properties of convolutions in the Fourier domain. In , convolutions are linear operators diagonalised by the Fourier basis , . One may then extend convolutions to general graphs by finding the corresponding “Fourier” basis. This equivalence is given through the graph Laplacian, an opera-tor which provides an harmonic analysis on the graphs
💡一些直观的理解
如果把矩阵看作是运动，特征值就是运动的速度，特征向量就是运动的方向。那么式(2.15)就是在学习图中的信息在特征向量规定的方向上以什么速度传播消息最高效。Spectral Network中将设定为可学习的对角矩阵(式(2.16))，实际上就是在学习如何最优化图中的消息传播。
☝️局限：
- 不具备局部特性，卷积运算矩阵的结果在所有位置非零。这说明它是一个全局卷积核（CNN中是局部卷积核），无法关注局部信号；
- 每次前向传播都需要显式计算特征分解，计算复杂度为。
💡信号的合成与分析
信号可以看作N维空间中的向量，而向量是由一组基经过线性组合合成的。所以我们也可以把信号看作一组基的合成 ：
其中 为基， 为每个basis的系数。我们假设这组基为 标准正交基 。
当我们想知道每个基的系数大小时，就要用到 分析：
实现方式是将信号与对应的基做 内积。
举个例子，和是一组 标准正交基 ，向量为这组基的线性组合。。当我们想知道的系数时，可以对和做内积：。
CHEBNET[10]
Spectral Network的卷积核是全局核，随之而来的弊端是较大的计算量。ChebNet通过Chebyshev多项式对卷积核进行了近似，增加了卷积的局部特性的同时降低了计算量。
Chebyshev多项式的讲解可以参考[11]。
ChebNet提出，式(2.15)中的卷积核可以用切比雪夫不等式的截断展开式的 K 阶来近似：
此时，卷积定义为(Chebyshev多项式只作用在对角矩阵上)：
其中 ， 为的最大特征值。为切比雪夫系数向量。此处限制的范围至
其输入要求了区间限制。
另外可以看到（2.17）展现了ChebNet不再需要做特征分解的优势。
切比雪夫递推多项式定义为：
由上式得到的ChebNet卷积核的localize特性，可以参考[13]。
GCN[12]
GCN对ChebNet做了几步变换。
第一 ，令，减轻对邻结点的过拟合现象（相比ChebNet，GCN只考虑了一阶邻结点）。
第二 ，令，简化计算；
此时式(2.21)可转化为：
第三 ，令，简化计算；
进一步简化：
第四，renormalization trick：
其中，，。
AGCN[14]
Spectral Network，ChebNet，GCN三者对原始图结构建模，AGCN认为图结构中存在额外的潜在关系值得探究，所以除了原始的拉普拉斯矩阵，AGCN加入了“残差”拉普拉斯：
形式与一致：
其中 是通过可学习的度量函数 来计算的。AGCN认为对不同的图拓扑结构应当设计不同的度量函数，借助于Mahalanobis距离：
令使其转化为可学习的度量函数。最后通过高斯核函数和归一化来计算 。
参考
-
https://www.cnblogs.com/SivilTaram/p/graph\_neural\_network\_1.html
-
Scarselli, Franco, et al. "The graph neural network model." IEEE transactions on neural networks 20.1 (2008): 61-80.
-
Bruna, Joan, et al. "Spectral networks and locally connected networks on graphs." arXiv preprint arXiv:1312.6203 (2013).
-
https://www.cnblogs.com/SivilTaram/p/graph\_neural\_network\_2.html
-
Defferrard, Michaël, Xavier Bresson, and Pierre Vandergheynst. "Convolutional neural networks on graphs with fast localized spectral filtering." arXiv preprint arXiv:1606.09375 (2016).
-
https://www.bilibili.com/video/BV1UQ4y1M7Uk?from=search&seid=882978028349781345
-
Kipf T N, Welling M. Semi-supervised classification with graph convolutional networks[J]. arXiv preprint arXiv:1609.02907, 2016.
-
Li R, Wang S, Zhu F, et al. Adaptive graph convolutional neural networks[C]//Proceedings of the AAAI Conference on Artificial Intelligence. 2018, 32(1).
校正：屁孩儿
校正：章总不是总
更多内容：
推荐系统（十二）「腾讯」推荐系统中one-hot一定好吗？它忽略了一些信息
开发历程
论文阅读笔记
数据结构系列
机器学习笔记
黑科技