0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

深入研究网络传播背后的理论和直觉

新机器视觉 来源:DeepHub 作者:DeepHub 2021-06-25 11:15 次阅读

你可能听说过图卷积,因为它在当时是一个非常热门的话题。虽然不太为人所知,但网络传播是计算生物学中用于网络学习的主要方法。在这篇文章中,我们将深入研究网络传播背后的理论和直觉,并将看到网络传播是图卷积的一种特殊情况。

网络传播是计算生物学中基于内疚关联原理的一种流行方法。

两种不同的网络传播观点:随机游走和扩散,以HotNet2为例。

网络传播是图卷积的一种特例。

1计算生物学中的网络传播

网络自然产生于许多真实世界的数据,如社交网络,交通网络,生物网络,仅举几个例子。网络结构编码了关于网络中每个个体角色的丰富信息

在计算生物学中,像蛋白质相互作用(PPI)这样的生物网络,节点是蛋白质,边缘代表两个蛋白质相互作用的可能性,在重建生物过程,甚至揭示疾病基因方面非常有用[1,2]。这种重建可以简单地通过直接观察目标蛋白的邻近蛋白是否是生物过程或疾病的一部分来完成。这种通过邻近蛋白质来推断蛋白质隶属度的过程称为网络传播。我们将在下一节中更仔细地研究精确的数学公式,但是现在让我们想想为什么这样一个简单的方法有效。

这一切都归结为内疚关联(GBA)原则,即通过物理交互作用或其他相似度量(如基因共同表达),蛋白质彼此紧密相关,可能参与相同的生物过程或途径。GBA原理来自于观察到许多蛋白质复合物(如酵母[3]中的SAGA/TFIID复合物)定位于一个内聚网络模块。同样,在人类疾病基因网络[4]中,我们可以看到,例如,与耳、鼻、喉疾病或血液病相关的疾病基因都局限在网络模块中。作为旁注,在这篇文章中,蛋白质和基因这两个词将互换使用。

2网络传播的数学公式——两种不同的观点

符号

给定一个(无向)图G=(V, E, w),有n个顶点的顶点集V,边集E,权函数w,设A为相应的n × n维邻接矩阵:

ae754f60-d4f1-11eb-9e57-12bb97331649.png

利用对角度矩阵D,它的对角项是相应节点的度,我们可以将A按行或按列规格化,得到两个新的矩阵P和W。

ae7f021c-d4f1-11eb-9e57-12bb97331649.png

最后,设p0为°热编码的标签向量,其中p0对应的正标签节点的项为1,其余均为0。

随机游走

我们可以在网络上以随机游走的方式进行网络传播。在这种情况下,我们要问的关键问题如下。

通过一跳传播,从目标节点开始并最终到达任何一个具有正标签的节点的概率是多少?

在数学上,该操作对应于P和p0之间的矩阵向量乘法,得到预测得分向量y

ae8a225a-d4f1-11eb-9e57-12bb97331649.png

让我们看一个例子。考虑基因g1、g2、g3和g4的以下子网。假设g2和g3被注释到一种疾病中,这意味着已知这两个基因与此处研究的疾病有关。另一方面,g1和g4没有对该疾病进行注释(注意:这并不意味着它们对该疾病没有影响,而是目前还不知道它们与该疾病有关)。

为了确定g1是否与疾病相关,我们可以简单地设计一个从g1开始的单跳随机行走,看看它落在疾病基因(g2或g3)上的概率是多少。经过简单的计算,我们看到预测得分是2/3,这是相当高的。这是有道理的,因为g1的三个邻近基因中有两个与疾病相关,而根据GBA原理,g1很可能与这种疾病相关。

扩散

网络传播的另一种观点是通过网络进行扩散。在这种情况下,我们要问的关键问题如下。

有多少“热度”被扩散到目标节点?或者换句话说,从带有正标签的节点开始,通过一跳传播最终到达目标节点的概率是多少?

数学上,该操作对应于波浪号P和p0 (p0的标准化版本)之间的矩阵向量乘法,产生预测得分向量y波浪号。

aec2aeae-d4f1-11eb-9e57-12bb97331649.png

注:p0归一化保证了从一个概率分布映射到一个概率分布,即y波浪号等于1。

让我们回到上面的例子,通过网络传播疾病基因预测。这一次,我们想将标签传播作为扩散来执行。结果,两个注释疾病基因产生的总“热”中有很大一部分(5/12)被g1收集。因此g1很可能与本病相关。

3超越了单跳传播

单跳传播方法简单有效。然而,当标记数据稀缺时(这是计算生物学中典型的情况),单跳传播方法只能计算疾病基因直接邻居的非平凡预测分数。考虑到人类基因组中有超过2万个基因,这显然导致了次优预测。因此,我们可以扩展到2-hop, 3-hop,甚至更多,而不是局限于1-hop社区。图中显示了k-hop从k = 1到k = 2的传播过程。

HotNet2扩散

有许多不同的变体来执行多跳扩散或随机游走。我们将以HotNet2为例。与上面介绍的扩散类似,HotNet2算法迭代更新初始“heat”分布p0波浪线如下。

af29a47e-d4f1-11eb-9e57-12bb97331649.png

其中beta值从0到1,是将“热量”带回其源头的“重启概率”。包含这个重启概率的原因有几个(有些相关)。首先,之前定义的扩散算子给出了当前节点拥有的所有“热量”,因此在第t步,之前所有的扩散信息都丢失了。添加beta有效地在每一步中保留了一些热量,因此在第t步,分布包含了之前步骤的所有信息。其次,(非零)beta参数保证了t趋近于无穷时热分布的收敛性,从而给出了t=∞时热分布的封闭形式解

af34014e-d4f1-11eb-9e57-12bb97331649.png

最后,在[1]中已经证明,在生物通路重建、疾病基因预测等方面,这种HotNet2扩散方法比上一节定义的单跳网络传播能够产生持续更好的预测。

4与图卷积的关系

回想一下,图卷积网络遵循如下的分层传播规则。

af69358a-d4f1-11eb-9e57-12bb97331649.png

其中H(l)是第l层的隐藏特征,W(l)是可学习参数,非线性σ (DAD)内部的主导部分是具有自连接的谱归一化邻接矩阵。自连接的作用类似于重新启动概率,以保留当前迭代的一些信息。

通过下面的替换,我们可以完全重建标签传播作为图卷积的一种特殊情况。

用行归一化§或列归一化(W)版本替换谱归一化自连接邻接矩阵

用p(l)代替H(l)

用恒等式代替非线性和W(l)(或者干脆忽略这些变换)

af764964-d4f1-11eb-9e57-12bb97331649.png

注意,第一次替换不会改变图的频谱,因此仍然会执行相同的卷积操作。

现在你知道了,网络传播是图卷积的一种特殊情况!

5总结

基于关联原理,网络传播由于细胞组织的模块化,在计算生物学中被广泛应用于疾病基因预测等各种任务。我们已经深入研究了网络传播的两个观点及其与图卷积的联系。

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • GBA
    GBA
    +关注

    关注

    0

    文章

    10

    浏览量

    8634
  • 图卷积网络
    +关注

    关注

    0

    文章

    7

    浏览量

    1492

原文标题:神经网络的学习方式网络传播和图卷积,两者到底什么关系?

文章出处:【微信号:vision263com,微信公众号:新机器视觉】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【大语言模型:原理与工程实践】探索《大语言模型原理与工程实践》

    的全面认识,还提供了将这些模型应用于实际问题的实用指导。对于希望在人工智能领域深入研究的读者来说,这是一本不可多得的参考书籍。
    发表于 04-30 15:35

    光耦合器的使用:了解输入和输出之间的关系

    在本文中,我们将深入研究光耦合器的基础知识,探讨它们的工作原理及其输入和输出之间的关系。
    的头像 发表于 04-12 16:09 205次阅读
    光耦合器的使用:了解输入和输出之间的关系

    光耦合器电路基本概述

    在本文中,我们将深入研究您在选择适合您的特定要求的光耦合器电路之前需要了解的信息。
    的头像 发表于 03-29 16:12 182次阅读
    光耦合器电路基本概述

    重大突破│捷杰传感APEF自适应算法将设备健康监测误报率和漏报率降低92.8%!

    苏州捷杰传感理论结合实践深入研究数年,取得了重大突破,成功研发出自适应边缘保持滤波算法(APEF),有效解决误报和漏报。
    的头像 发表于 03-28 15:27 119次阅读
    重大突破│捷杰传感APEF自适应算法将设备健康监测误报率和漏报率降低92.8%!

    FPGA图书分享系列-2024.01.31

    FPGA在金融领域的具体应用案例,帮助读者了解理论与实践的结合,以及如何在真实世界的问题中应用FPGA技术。 研究前景:指出了未来神经网络加速器研究的潜力,为有志于在该领域
    发表于 01-31 21:14

    深入理解FFmpeg阅读体验》+ 书收到了,崭新的开篇

    今天收到了《深入理解FFmpeg》 崭新的书,一个在2022年较近距离接触过却尚未深入研究的领域图像处理。最近刚好在作这方面的研究,希望自己可以把握这次机会,好好学习下 FFMpeg,相信可以让自己
    发表于 01-07 18:57

    深入研究高考电磁学问题研究

    在实际求解中,要用到一类特殊的积分——椭圆积分。椭圆积分是一种特殊函数的积分,不能用普通的积分方法来求解。它只能用二项式定理展开,得出一个收敛级数,并逐项加以积分,至于取项数的多少,视结果的精度需要而定。
    的头像 发表于 12-18 15:00 251次阅读
    <b class='flag-5'>深入研究</b>高考电磁学问题<b class='flag-5'>研究</b>

    通信系统中无源互调的理论和工程应用研究

    在任何通信系统中,无源器件的非线性特性不应被孤立看待,无源互调的理论和工程应用研究应该是一个系统性的问题,这就是本文中想要探讨的。
    发表于 11-03 10:12 549次阅读
    通信系统中无源互调的<b class='flag-5'>理论</b>和工程应用<b class='flag-5'>研究</b>

    使用MobilenetV2、ARM NN和TensorFlow Lite Delegate预建二进制文件进行图像分类教程

    的设备上,并深入研究了代码。 本指南既适合初学者,也适合有经验的开发人员。 我们可以使用指南的前面部分在几分钟内启动并运行一个应用程序。 对于更有经验的开发人员,我们还将在后面的代码深入部分的指南中进一步详细介绍
    发表于 08-28 06:12

    电子电路的基本概念和理论分析

    本文旨在探讨电子电路学习的各个方面,包括基本概念、理论分析、实验设计与实现、结果分析以及应用与展望。通过对电子电路领域的深入研究,我们将揭示这一学科的魅力和挑战,并阐述其在现代科技领域中的重要地位。
    的头像 发表于 08-24 09:20 1406次阅读

    让新唐M256微控制器给您最安心便捷的直觉触控净水器

    让新唐M256微控制器给您最安心便捷的直觉触控净水器
    的头像 发表于 08-10 11:08 320次阅读

    如何实现端到端网络切片?

    3GPP将网络切片定义为5G 网络的主要功能之一,网络切片可看作是动态创建的逻辑端到端网络。在深入研究
    发表于 06-15 17:56 1182次阅读
    如何实现端到端<b class='flag-5'>网络</b>切片?

    基于电网时空序列信息的扰动传播特性机理分析

    本文以电网扰动传播分析为主题,探讨了电网扰动传播特性机理;利用电网时空序列信息,基于K-means 聚类算法,提出了一种轨迹驱动的电网扰动传播特性量化评估方法,并借助连续潮流构建扰动数据集,采用该方法对IEEE39节点系统的扰动
    发表于 06-12 15:21 262次阅读
    基于电网时空序列信息的扰动<b class='flag-5'>传播</b>特性机理分析

    在带有ESP8266的Arduino IDE中使用FreqMeasure库?

    我试图编译一个使用 FreqMeasure 库的项目。我对它无法编译并不感到特别惊讶。FreqMeasure.cpp 包括 util/capture.h,#defines 各种架构如何定义它们的计时器。在我开始深入研究之前,我想我会问是否有人已经修补过这个问题。
    发表于 06-12 08:33

    PyTorch教程5.3之前向传播、反向传播和计算图

    电子发烧友网站提供《PyTorch教程5.3之前向传播、反向传播和计算图.pdf》资料免费下载
    发表于 06-05 15:36 0次下载
    PyTorch教程5.3之前向<b class='flag-5'>传播</b>、反向<b class='flag-5'>传播</b>和计算图