0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于图神经网络的图异常值检测库介绍

TigerGraph 来源:TigerGraph 作者:Yingtong Dou 2022-12-08 10:34 次阅读

文章具体介绍了图神经网络的基本机制,以及图上无监督节点异常值检测的概念和方法。同时他还分享了在这方面的一些发现和想法。最后,我们将介绍一个基于 GNN 的图异常值检测库 (PyGOD) 及其与 TigerGraph机器学习工作台的集成。

图神经网络 (GNN)

我们先简单了解一下现在热门的图神经网络 (GNN),这已经成为图数据挖掘的一种主导且强大的工具。与图像数据的 CNN 相似,GNN 是一种神经网络,旨在对图结构进行编码并通过迭代聚合其邻居的嵌入来学习节点的嵌入 (见图 1)。大多数 GNN 都持有同源性假设,即相连的节点是相似的;因此,聚合邻居的信息将有助于学习信息量更大的中心节点表示。中心节点表示可用于节点分类、链接预测和异常值检测 (OD) 等下游任务。

ed7d2b2c-761e-11ed-8abf-dac502259ad0.png

图1:图神经网络

图上的异常值

异常值是与其余数据显著不同的样本。作为数据挖掘研究的主流方向,异常值检测在行业中也至关重要。现实世界数据中的异常值通常表示欺诈行为、系统错误、网络入侵或网络故障。这些异常值可能导致重大的财务损失和安全问题。

除了传统表格数据中的异常值外,图模型还可以提高异常值检测的性能,特别是当数据实例具有共同的属性和接近性时。社交平台的机器人账户单个看可能没什么问题(如图 2 所示),但它的转发行为密集相连,从图的角度来看容易发现其中的异常。

ed9d5d0c-761e-11ed-8abf-dac502259ad0.png

图2:图上的异常值

在图异常值检测中,以前的文献已经定义并研究了两种典型的异常值类型。(1) 结构异常值是指密集相连的节点,相反则是稀疏连接的常规节点,例如前面提到的社交网络问题(图 2 所示)。(2) 上下文异常值是其属性与相邻节点明显不同的节点。它的定义与经典的基于接近度的异常值检测方法中的异常值假设相似。上下文异常值描绘了与图中邻居不同的节点,例如计算机网络中的受损设备。

edd2aa8e-761e-11ed-8abf-dac502259ad0.png

图3:两种典型的异常值类型

基于 GNN 的节点异常值检测

在 GNN 取得进展之前,大家就已经利用矩阵分解、密度聚类和关系学习方法来编码图信息并识别异常值。其他异常值检测方法大家可以参考文中链接(https://arxiv.org/abs/1404.4679)。

回到 GNN,在获得节点表示之后,GNN 会使用不同的损失函数(目标函数)进行优化,用于不同的任务。例如,使用交叉熵损失来优化 GNN 用于节点分类任务。

对于节点异常值检测,常规做法是将 GNNs 集成到自动编码器中,将 GNN 用作编码器和解码器。这种神经网络架构称为图自动编码器(简称:GAE)。与香草自编码器一样,GAE 通过重建图数据来编码图信息,即重建节点特征和边。在异常值检测方面,GAE 可用于编码正常图信息,具有高重构误差的节点将表明其异常程度。图4就是使用 GAE 进行节点异常值检测的第一种模型。

edf8ca7a-761e-11ed-8abf-dac502259ad0.png

图4:The OD framework of DOMINANT (SDM’ 19)

需要注意的是,使用 GAE 进行异常值检测对图数据有两个隐含假设:(1)异常值仅占据少量数据,而大部分数据是正常的;(2)正常数据具有共同的属性和结构特征。在此假设下,GAE 可以用来检测结构和上下文异常值,近两年来也已经有了许多 GAE 的变体。

基准测试的发现

接下来,跟大家分享一些基于 GNN 的节点异常值检测方法进行基准测试的一些发现:

1. 许多现有的基于 GNN 的异常值检测方法都是基于合成异常值的相对朴素的假设来开发的;因此,许多方法在检测有机异常值时效果并不理想。有机异常值通常非常复杂,其分布也可能多种多样。但是,我们的基准测试表明,如果有机异常值遵循预定义的异常类型,则基于 GNN 的异常值检测方法将是有效的。

2. 和大多数深度学习方法一样,基于 GNN 的异常值检测方法在小图中效果都不是最优的。与此同时,大多数基于 GNN 的异常值检测方法在拥有数千万个节点的大图中都不具有可伸缩性。

3. 无监督的基于 GNN 的异常值检测方法的性能严重依赖于超参数,而在无监督学习中的超参数调整仍然是机器学习研究和实践中的挑战。

4. 大多数基于 GNN 的异常值检测方法更倾向于特定类型的异常值。平衡和优化每种异常值类型的检测性能并不容易。同时,在预期中没有方法具有一致的性能或者在不同的数据集上优于其他方法。

基于图的异常值检测指南

基于上述发现,由于其可扩展性约束,我们认为基于 GNN 的异常值检测与工业应用之间仍存在差距。开发基于 GNN 的自动化、可扩展和任务导向的异常值检测方法将是一个具有发展潜力的方向。至于到底是应用基于 GNN 的异常值检测或基于图的异常值检测,作者也给出了应用指南(图5),以方便从业者参考。我们简单跟大家分享几点,例如,是否采用图?可以看异常实体是否具有共同的特性,异常实体是否具有集群行为,还有就是成本与效益之间的权衡。而是否采用GNN?则需要考虑基础设施,功能可用性和功能类型,还有与其他模块和任务集成。具体指南图大家可以关注我们的微信公众号查看正文。

ee0fe76e-761e-11ed-8abf-dac502259ad0.png

图5:基于图的异常值检测指南

从上述指南中,作者强调了数据探索分析和精确问题定义对于应用基于图的异常值检测是至关重要的。

PyGOD 和TigerGraph ML Workbench

最后,作者还跟大家介绍了 PyGOD,这是一个与图异常值检测基准测试一起开发的 Python 库。该库基于 PyTorch 和 PyTorch Geometric (PyG) 开发,其 API 样式遵循流行的机器学习库 scikit-learn,可以很容易地使用五行代码检测图中的异常点:

ee3ace16-761e-11ed-8abf-dac502259ad0.png

PyGOD是一个不断发展的Python库,旨在涵盖更多的检测功能和更高的可扩展性。TigerGraph ML Workbench能够将图数据从TigerGraph DB转换为PyG数据对象,因此PyGOD可以在TigerGraph中轻松安装和测试。

ee6ad408-761e-11ed-8abf-dac502259ad0.png

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4576

    浏览量

    98885
  • 机器学习
    +关注

    关注

    66

    文章

    8136

    浏览量

    130663

原文标题:Vol. 38 基于图神经网络的图异常值检测:简介

文章出处:【微信号:TigerGraph,微信公众号:TigerGraph】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    《 AI加速器架构设计与实现》+第一章卷积神经网络观后感

    《 AI加速器架构设计与实现》+第一章卷积神经网络观感    在本书的引言中也提到“一胜千言”,读完第一章节后,对其进行了一些归纳(如图1),第一章对常见的神经网络结构进行了介绍
    发表于 09-11 20:34

    构建神经网络模型的常用方法 神经网络模型的常用算法介绍

    神经网络模型是一种通过模拟生物神经元间相互作用的方式实现信息处理和学习的计算机模型。它能够对输入数据进行分类、回归、预测和聚类等任务,已经广泛应用于计算机视觉、自然语言处理、语音处理等领域。下面将就神经网络模型的概念和工作原理,
    发表于 08-28 18:25 628次阅读

    人工神经网络和bp神经网络的区别

    人工神经网络和bp神经网络的区别  人工神经网络(Artificial Neural Network, ANN)是一种模仿人脑神经元网络结构和功能的计算模型,也被称为
    的头像 发表于 08-22 16:45 3461次阅读

    卷积神经网络模型的优缺点

    等领域中非常流行,可用于分类、分割、检测等任务。而在实际应用中,卷积神经网络模型有其优点和缺点。这篇文章将详细介绍卷积神经网络模型的特点、优点和缺点。 一、卷积
    的头像 发表于 08-21 17:15 2404次阅读

    卷积神经网络模型搭建

    卷积神经网络模型搭建 卷积神经网络模型是一种深度学习算法。它已经成为了计算机视觉和自然语言处理等各种领域的主流算法,具有很大的应用前景。本篇文章将详细介绍卷积神经网络模型的搭建过程,为
    的头像 发表于 08-21 17:11 631次阅读

    卷积神经网络和深度神经网络的优缺点 卷积神经网络和深度神经网络的区别

    深度神经网络是一种基于神经网络的机器学习算法,其主要特点是由多层神经元构成,可以根据数据自动调整神经元之间的权重,从而实现对大规模数据进行预测和分类。卷积
    发表于 08-21 17:07 2383次阅读

    卷积神经网络介绍 什么是卷积神经网络算法

    卷积神经网络介绍 什么是卷积神经网络算法 卷积神经网络涉及的关键技术 卷积神经网络(Convolutional Neural Networ
    的头像 发表于 08-21 16:49 1438次阅读

    卷积神经网络层级结构 卷积神经网络的卷积层讲解

    像分类、目标检测、人脸识别等。卷积神经网络的核心是卷积层和池化层,它们构成了网络的主干,实现了对图像特征的提取和抽象。 一、卷积神经网络的层级结构 卷积
    的头像 发表于 08-21 16:49 4556次阅读

    卷积神经网络的基本原理 卷积神经网络发展 卷积神经网络三大特点

    卷积神经网络的基本原理 卷积神经网络发展历程 卷积神经网络三大特点  卷积神经网络的基本原理 卷积神经网络(Convolutional Ne
    的头像 发表于 08-21 16:49 1463次阅读

    卷积神经网络的工作原理 卷积神经网络通俗解释

    。CNN可以帮助人们实现许多有趣的任务,如图像分类、物体检测、语音识别、自然语言处理和视频分析等。本文将详细介绍卷积神经网络的工作原理并用通俗易懂的语言解释。 1.概述 卷积神经网络
    的头像 发表于 08-21 16:49 2767次阅读

    卷积神经网络模型有哪些?卷积神经网络包括哪几层内容?

    、视频等信号数据的处理和分析。卷积神经网络就是一种处理具有类似网格结构的数据的神经网络,其中每个单元只处理与之直接相连的神经元的信息。本文将对卷积神经网络的模型以及包括的层进行详细
    的头像 发表于 08-21 16:41 1521次阅读

    卷积神经网络的应用 卷积神经网络通常用来处理什么

    的前馈神经网络,卷积神经网络广泛用于图像识别、自然语言处理、视频处理等方面。本文将对卷积神经网络的应用进行详尽、详实、细致的介绍,以及卷积神经网络
    的头像 发表于 08-21 16:41 4042次阅读

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法 卷积神经网络(Convolutional Neural Network,CNN)是一种基于深度学习的人工
    的头像 发表于 08-17 16:30 933次阅读

    什么是神经网络?为什么说神经网络很重要?神经网络如何工作?

    神经网络是一个具有相连节点层的计算模型,其分层结构与大脑中的神经元网络结构相似。神经网络可通过数据进行学习,因此,可训练其识别模式、对数据分类和预测未来事件。
    的头像 发表于 07-26 18:28 2032次阅读
    什么是<b class='flag-5'>神经网络</b>?为什么说<b class='flag-5'>神经网络</b>很重要?<b class='flag-5'>神经网络</b>如何工作?

    三个最流行神经网络

    在本文中,我们将了解深度神经网络的基础知识和三个最流行神经网络:多层神经网络(MLP),卷积神经网络(CNN)和递归神经网络(RNN)。
    发表于 05-15 14:19 1186次阅读
    三个最流行<b class='flag-5'>神经网络</b>