【Datawhale图机器学习】图神经网络
图神经网络
GNN是一种连接模型，通过网络中节点之间的信息传递的方式来获取图中的依存关系，GNN通过从节点任意深度的邻居来更新该节点状态，这个状态能够表示状态信息。第一次在论文 The graph neural network model 中提出
与传统NN的区别（GNN优点）
- 节点
CNN和RNN等都需要节点的特征按照一定的顺序进行排列
但对于图结构，并没有天然的顺序。所以，GNN采用*在每个节点上分别传播(propagate)*的方式进行学习，由此忽略了节点的顺序，相当于GNN的输出会随着输入的不同而不同。 - 边（图结构的边表示节点之间的依存关系）
传统的神经网络不是显式地表达中这种依存关系，而是通过不同节点特征来间接地表达节点之间的关系，这些依赖信息只是作为节点的特征。
GNN 可以通过图形结构进行传播，而不是将其作为节点特征的一部分，通过邻居节点的加权求和来更新节点的隐藏状态 - 推理
推理是高级人工智能的一个非常重要的研究课题，人脑中的推理过程几乎都是基于从日常经验中提取的图形。标准神经网络已经显示出通过学习数据分布来生成合成图像和文档的能力，同时它们仍然无法从大型实验数据中学习推理图。然而，GNN 探索从场景图片和故事文档等非结构性数据生成图形，这可以成为进一步高级 AI 的强大神经模型。
深度图编码器
通用GNN网络
- GNN 层 = 消息 + 聚合
- 将GNN层连接到GNN
- 原始输入图≠计算图
Graph feature augmentation 特征扩增
Graph structure augmentation 机构扩增
通用GNN模板
GNN层数不能过深
所有节点的Embedding相同
GNN层的内部可以加深度神经网络
样本之间独立同分布
随机时间“所有样本都被正确预测”发生的概率P=0.60.30.7
P越大->预测结果越好->算法模型越好
优化目标：更新算法模型参数使得P最大化，极大似然估计
最大化P<->最大化P取对数logP=log0.6+log0.3+log0.7<->最小化负对数-log0.6-log0.3-log0.7
参考资料
图神经网络（GNN）模型原理及应用综述:https://blog.csdn.net/weixin_45884316/article/details/115751272
图神经网络（Graph Neural Networks，GNN）综述
:https://zhuanlan.zhihu.com/p/75307407