Datawhale组队学习-图神经 络(一)

Datawhale组队学习-图神经 络(一)

Taks 01

学习书籍、工具及软件

  • 本次学习资料为Datawhale 区在Github上的开源项目和官方文档
  • 电脑配置为Macbook m1,操作系统为MacOS 11.4 Big Sur。所用编程环境为Anaconda 下的 Jupyter Notebook,python 3.8.8。

学习图神经 络的原因

在过去的深度学习应用中,我们接触的数据形式主要是这四种:矩阵、张量、序列(sequence)和时间序列(time series)。然而来自现实世界应用的数据更多地是图的结构,如 交 络、交通 络、蛋白质与蛋白质相互作用 络、知识图谱和大脑 络等。图提供了一种通用的数据表示方法,众多其他类型的数据也可以转化为图的形式。此外,大量的现实世界的问题可以作为图上的一组小的计算任务来解决。推断节点属性、检测异常节点(如垃圾邮件发送者)、识别与疾病相关的基因、向病人推荐药物等,都可以概括为节点分类问题。推荐、药物副作用预测、药物与目标的相互作用识别和知识图谱的完成(knowledge graph completion)等,本质上都是边预测问题

同一图的节点存在连接关系,这表明节点不是独立的。然而,传统的机器学习技术假设样本是独立且同分布的,因此传统机器学习方法不适用于图计算任务。图机器学习研究如何构建节点表征,节点表征要求同时包含节点自身的信息和节点邻接的信息,从而我们可以在节点表征上应用传统的分类技术实现节点分类。图机器学习成功的关键在于如何为节点构建表征。深度学习已经被证明在表征学习中具有强大的能力,它大大推动了计算机视觉、语音识别和自然语言处理等各个领域的发展。因此,将深度学习与图连接起来,利用神经 络来学习节点表征,将带来前所未有的机会。

然而,如何将神经 络应用于图,这一问题面临着巨大的挑战。首先,传统的深度学习是为规则且结构化的数据设计的,图像、文本、语音和时间序列等都是规则且结构化的数据。但图是不规则的,节点是无序的,节点可以有不同的邻居节点。其次,规则数据的结构信息是简单的,而图的结构信息是复杂的,特别是在考虑到各种类型的复杂图,它们的节点和边可以关联丰富的信息,这些丰富的信息无法被传统的深度学习方法捕获。

图深度学习是一个新兴的研究领域,它将深度学习技术与图数据连接起来,推动了现实中的图预测应用的发展。然而,此研究领域也面临着前所未有的挑战。

注:以上内容整理自“Deep Learning on Graphs: An Introduction”!!!

PyG 环境配置

1.安装Anaconda

因为本人已有Anaconda环境,这里不再赘述。

2.创建新环境

安装PyG:

本次电脑系统和配置为MacOS m1芯片,直接安装CPU版本:

其他版本的安装方法以及安装过程中出现的大部分问题的解决方案可以在Installation of of PyTorch Geometric 页面找到。

至此,本次学习所需环境全部安装完毕。

一、简单图论

  • 在图的计算任务中,节点(node)一定含有信息(至少含有节点的度的信息),边(edge)可能含有信息。

  • 因为定义,无向图的邻接矩阵是对称的。我们默认无权图的各条边权重为1,边不存在则为0,所以无权图的矩阵元素只有0和1.

  • 对于有向有权图,结点 v i v_i vi/span>的出度(out degree)等于从 v i v_i vi/span>出发的边的权重之和,结点 v i v_i vi/span>的入度(in degree)等于从连向 v i v_i vi/span>的边的权重之和。结点 v i v_i vi/span>的度记为 d ( v i ) d(v_i) d(vi/span>),入度记为 d i n ( v i ) d_{in}(v_i) din/span>(vi/span>),出度记为 d o u t ( v i ) d_{out}(v_i) dout/span>(vi/span>)

  • 无向图,无权图和无向无权图都为有向有权图的特殊情况。无向图的结点的出度与入度相等。有权图各边的权重为 1 1 1,那么结点 v i v_i vi/span>的出度(out degree)等于从 v i v_i vi/span>出发的边的数量,结点 v i v_i vi/span>的入度(in degree)等于从连向 v i v_i vi/span>的边的数量。

  • 领接节点:

    • 结点 v i v_i vi/span>的邻接结点为与结点 v i v_i vi/span>直接相连的结点,其被记为** N ( v i ) mathcal{N(v_i)} N(

      声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2021年5月12日
下一篇 2021年5月12日

相关推荐