0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于图神经网络的图异常值检测库介绍

TigerGraph 来源:TigerGraph 作者:Yingtong Dou 2022-12-08 10:34 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

文章具体介绍了图神经网络的基本机制,以及图上无监督节点异常值检测的概念和方法。同时他还分享了在这方面的一些发现和想法。最后,我们将介绍一个基于 GNN 的图异常值检测库 (PyGOD) 及其与 TigerGraph机器学习工作台的集成。

图神经网络 (GNN)

我们先简单了解一下现在热门的图神经网络 (GNN),这已经成为图数据挖掘的一种主导且强大的工具。与图像数据的 CNN 相似,GNN 是一种神经网络,旨在对图结构进行编码并通过迭代聚合其邻居的嵌入来学习节点的嵌入 (见图 1)。大多数 GNN 都持有同源性假设,即相连的节点是相似的;因此,聚合邻居的信息将有助于学习信息量更大的中心节点表示。中心节点表示可用于节点分类、链接预测和异常值检测 (OD) 等下游任务。

ed7d2b2c-761e-11ed-8abf-dac502259ad0.png

图1:图神经网络

图上的异常值

异常值是与其余数据显著不同的样本。作为数据挖掘研究的主流方向,异常值检测在行业中也至关重要。现实世界数据中的异常值通常表示欺诈行为、系统错误、网络入侵或网络故障。这些异常值可能导致重大的财务损失和安全问题。

除了传统表格数据中的异常值外,图模型还可以提高异常值检测的性能,特别是当数据实例具有共同的属性和接近性时。社交平台的机器人账户单个看可能没什么问题(如图 2 所示),但它的转发行为密集相连,从图的角度来看容易发现其中的异常。

ed9d5d0c-761e-11ed-8abf-dac502259ad0.png

图2:图上的异常值

在图异常值检测中,以前的文献已经定义并研究了两种典型的异常值类型。(1) 结构异常值是指密集相连的节点,相反则是稀疏连接的常规节点,例如前面提到的社交网络问题(图 2 所示)。(2) 上下文异常值是其属性与相邻节点明显不同的节点。它的定义与经典的基于接近度的异常值检测方法中的异常值假设相似。上下文异常值描绘了与图中邻居不同的节点,例如计算机网络中的受损设备。

edd2aa8e-761e-11ed-8abf-dac502259ad0.png

图3:两种典型的异常值类型

基于 GNN 的节点异常值检测

在 GNN 取得进展之前,大家就已经利用矩阵分解、密度聚类和关系学习方法来编码图信息并识别异常值。其他异常值检测方法大家可以参考文中链接(https://arxiv.org/abs/1404.4679)。

回到 GNN,在获得节点表示之后,GNN 会使用不同的损失函数(目标函数)进行优化,用于不同的任务。例如,使用交叉熵损失来优化 GNN 用于节点分类任务。

对于节点异常值检测,常规做法是将 GNNs 集成到自动编码器中,将 GNN 用作编码器和解码器。这种神经网络架构称为图自动编码器(简称:GAE)。与香草自编码器一样,GAE 通过重建图数据来编码图信息,即重建节点特征和边。在异常值检测方面,GAE 可用于编码正常图信息,具有高重构误差的节点将表明其异常程度。图4就是使用 GAE 进行节点异常值检测的第一种模型。

edf8ca7a-761e-11ed-8abf-dac502259ad0.png

图4:The OD framework of DOMINANT (SDM’ 19)

需要注意的是,使用 GAE 进行异常值检测对图数据有两个隐含假设:(1)异常值仅占据少量数据,而大部分数据是正常的;(2)正常数据具有共同的属性和结构特征。在此假设下,GAE 可以用来检测结构和上下文异常值,近两年来也已经有了许多 GAE 的变体。

基准测试的发现

接下来,跟大家分享一些基于 GNN 的节点异常值检测方法进行基准测试的一些发现:

1. 许多现有的基于 GNN 的异常值检测方法都是基于合成异常值的相对朴素的假设来开发的;因此,许多方法在检测有机异常值时效果并不理想。有机异常值通常非常复杂,其分布也可能多种多样。但是,我们的基准测试表明,如果有机异常值遵循预定义的异常类型,则基于 GNN 的异常值检测方法将是有效的。

2. 和大多数深度学习方法一样,基于 GNN 的异常值检测方法在小图中效果都不是最优的。与此同时,大多数基于 GNN 的异常值检测方法在拥有数千万个节点的大图中都不具有可伸缩性。

3. 无监督的基于 GNN 的异常值检测方法的性能严重依赖于超参数,而在无监督学习中的超参数调整仍然是机器学习研究和实践中的挑战。

4. 大多数基于 GNN 的异常值检测方法更倾向于特定类型的异常值。平衡和优化每种异常值类型的检测性能并不容易。同时,在预期中没有方法具有一致的性能或者在不同的数据集上优于其他方法。

基于图的异常值检测指南

基于上述发现,由于其可扩展性约束,我们认为基于 GNN 的异常值检测与工业应用之间仍存在差距。开发基于 GNN 的自动化、可扩展和任务导向的异常值检测方法将是一个具有发展潜力的方向。至于到底是应用基于 GNN 的异常值检测或基于图的异常值检测,作者也给出了应用指南(图5),以方便从业者参考。我们简单跟大家分享几点,例如,是否采用图?可以看异常实体是否具有共同的特性,异常实体是否具有集群行为,还有就是成本与效益之间的权衡。而是否采用GNN?则需要考虑基础设施,功能可用性和功能类型,还有与其他模块和任务集成。具体指南图大家可以关注我们的微信公众号查看正文。

ee0fe76e-761e-11ed-8abf-dac502259ad0.png

图5:基于图的异常值检测指南

从上述指南中,作者强调了数据探索分析和精确问题定义对于应用基于图的异常值检测是至关重要的。

PyGOD 和TigerGraph ML Workbench

最后,作者还跟大家介绍了 PyGOD,这是一个与图异常值检测基准测试一起开发的 Python 库。该库基于 PyTorch 和 PyTorch Geometric (PyG) 开发,其 API 样式遵循流行的机器学习库 scikit-learn,可以很容易地使用五行代码检测图中的异常点:

ee3ace16-761e-11ed-8abf-dac502259ad0.png

PyGOD是一个不断发展的Python库,旨在涵盖更多的检测功能和更高的可扩展性。TigerGraph ML Workbench能够将图数据从TigerGraph DB转换为PyG数据对象,因此PyGOD可以在TigerGraph中轻松安装和测试。

ee6ad408-761e-11ed-8abf-dac502259ad0.png

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4845

    浏览量

    108368
  • 机器学习
    +关注

    关注

    67

    文章

    8570

    浏览量

    137420

原文标题:Vol. 38 基于图神经网络的图异常值检测:简介

文章出处:【微信号:TigerGraph,微信公众号:TigerGraph】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎?

    我想知道为什么 VisionFive V1 板上的 JH7100 中并存 NVDLA 引擎和神经网络引擎,请问?您能否举一些关于他们的用例的例子?
    发表于 03-25 06:01

    神经网络的初步认识

    日常生活中的智能应用都离不开深度学习,而深度学习则依赖于神经网络的实现。什么是神经网络神经网络的核心思想是模仿生物神经系统的结构,特别是大脑中神经
    的头像 发表于 12-17 15:05 526次阅读
    <b class='flag-5'>神经网络</b>的初步认识

    CNN卷积神经网络设计原理及在MCU200T上仿真测试

    数的提出很大程度的解决了BP算法在优化深层神经网络时的梯度耗散问题。当x&gt;0 时,梯度恒为1,无梯度耗散问题,收敛快;当x&lt;0 时,该层的输出为0。 CNN
    发表于 10-29 07:49

    NMSISI的使用

    NMSIS NN 软件是一组高效的神经网络内核,旨在最大限度地提高 Nuclei N 处理器内核上的神经网络的性能并最​​大限度地减少其内存占用。 该分为多个功能,每个功能涵盖特定
    发表于 10-29 07:07

    NMSIS神经网络使用介绍

    NMSIS NN 软件是一组高效的神经网络内核,旨在最大限度地提高 Nuclei N 处理器内核上的神经网络的性能并最​​大限度地减少其内存占用。 该分为多个功能,每个功能涵盖特定
    发表于 10-29 06:08

    NMSIS的使用

    nmsis core、nmsis dsp和nmsis nn三个组件,分别提供了对处理器核心和外设、数字信号处理神经网络内核的支持。 卷积、激活、池化是卷积神经网络中常用的三种操作,它们分别用于提取图像
    发表于 10-24 09:58

    在Ubuntu20.04系统中训练神经网络模型的一些经验

    本帖欲分享在Ubuntu20.04系统中训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是训练一个手写数字识别的神经网络
    发表于 10-22 07:03

    CICC2033神经网络部署相关操作

    在完成神经网络量化后,需要将神经网络部署到硬件加速器上。首先需要将所有权重数据以及输入数据导入到存储器内。 在仿真环境下,可将其存于一个文件,并在 Verilog 代码中通过 readmemh 函数
    发表于 10-20 08:00

    液态神经网络(LNN):时间连续性与动态适应性的神经网络

    1.算法简介液态神经网络(LiquidNeuralNetworks,LNN)是一种新型的神经网络架构,其设计理念借鉴自生物神经系统,特别是秀丽隐杆线虫的神经结构,尽管这种微生物的
    的头像 发表于 09-28 10:03 1692次阅读
    液态<b class='flag-5'>神经网络</b>(LNN):时间连续性与动态适应性的<b class='flag-5'>神经网络</b>

    神经网络的并行计算与加速技术

    随着人工智能技术的飞速发展,神经网络在众多领域展现出了巨大的潜力和广泛的应用前景。然而,神经网络模型的复杂度和规模也在不断增加,这使得传统的串行计算方式面临着巨大的挑战,如计算速度慢、训练时间长等
    的头像 发表于 09-17 13:31 1378次阅读
    <b class='flag-5'>神经网络</b>的并行计算与加速技术

    基于神经网络的数字预失真模型解决方案

    在基于神经网络的数字预失真(DPD)模型中,使用不同的激活函数对整个系统性能和能效有何影响?
    的头像 发表于 08-29 14:01 3767次阅读

    无刷电机小波神经网络转子位置检测方法的研究

    MATLAB/SIMULINK工具对该方法进行验证,实验结果表明该方法在全程速度下效果良好。 纯分享帖,点击下方附件免费获取完整资料~~~ *附件:无刷电机小波神经网络转子位置检测方法的研究.pdf
    发表于 06-25 13:06

    神经网络专家系统在电机故障诊断中的应用

    摘要:针对传统专家系统不能进行自学习、自适应的问题,本文提出了基于种经网络专家系统的并步电机故障诊断方法。本文将小波神经网络和专家系统相结合,充分发挥了二者故障诊断的优点,很大程度上降低了对电机
    发表于 06-16 22:09

    神经网络RAS在异步电机转速估计中的仿真研究

    众多方法中,由于其结构简单,稳定性好广泛受到人们的重视,且已被用于产品开发。但是MRAS仍存在在低速区速度估计精度下降和对电动机参数变化非常敏感的问题。本文利用神经网络的特点,使估计更为简单、快速
    发表于 06-16 21:54

    基于FPGA搭建神经网络的步骤解析

    本文的目的是在一个神经网络已经通过python或者MATLAB训练好的神经网络模型,将训练好的模型的权重和偏置文件以TXT文件格式导出,然后通过python程序将txt文件转化为coe文件,(coe
    的头像 发表于 06-03 15:51 1593次阅读
    基于FPGA搭建<b class='flag-5'>神经网络</b>的步骤解析