0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

深度学习聚类的综述

颖脉Imgtec 2023-01-13 11:11 次阅读

作者:凯鲁嘎吉

来源:博客园


这篇文章对现有的深度聚类算法进行全面综述与总结。现有的深度聚类算法大都由聚类损失与网络损失两部分构成,博客从两个视角总结现有的深度聚类算法,即聚类模型与神经网络模型。

1. 什么是深度聚类?

经典聚类即数据通过各种表示学习技术以矢量化形式表示为特征。随着数据变得越来越复杂和复杂,浅层(传统)聚类方法已经无法处理高维数据类型。为了解决该问题,深度聚类的概念被提出,即联合优化表示学习和聚类。a93d5d88-9194-11ed-ad0d-dac502259ad0.png

2. 从两个视角看深度聚类

a94bb7f2-9194-11ed-ad0d-dac502259ad0.png

3. 从聚类模型看深度聚类

3.1 基于K-means的深度聚类

a95cb32c-9194-11ed-ad0d-dac502259ad0.png参考:聚类——K-means - 凯鲁嘎吉 - 博客园

3.2 基于谱聚类的深度聚类

a975ad32-9194-11ed-ad0d-dac502259ad0.png参考:多视图子空间聚类/表示学习(Multi-view Subspace Clustering/Representation Learning),关于“On the eigenvectors of p-Laplacian”目标函数的优化问题- 凯鲁嘎吉 - 博客园

3.3基于子空间聚类(Subspace Clustering, SC)的深度聚类

a9cad28a-9194-11ed-ad0d-dac502259ad0.png

参考:深度多视图子空间聚类,多视图子空间聚类/表示学习(Multi-view Subspace Clustering/Representation Learning),字典更新与 K-SVD - 凯鲁嘎吉 - 博客园

3.4基于高斯混合模型(Gaussian Mixture Model, GMM)的深度聚类

a9dfb4ac-9194-11ed-ad0d-dac502259ad0.png

参考:聚类——GMM,基于图嵌入的高斯混合变分自编码器的深度聚类(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG)- 凯鲁嘎吉 - 博客园

3.5基于互信息的深度聚类

a9f06a86-9194-11ed-ad0d-dac502259ad0.png

参考:COMPLETER: 基于对比预测的缺失视图聚类方法,Meta-RL——Decoupling Exploration and Exploitation for Meta-Reinforcement Learning without Sacrifices - 凯鲁嘎吉 - 博客园

3.6 基于KL的深度聚类

aa0e7436-9194-11ed-ad0d-dac502259ad0.png

参考:Deep Clustering Algorithms ,关于“Unsupervised Deep Embedding for Clustering Analysis”的优化问题,结构深层聚类网络,具有协同训练的深度嵌入多视图聚类- 凯鲁嘎吉 -博客园

4.从神经网络模型看深度聚类

4.1基于自编码器(AutoEncoder, AE)的深度聚类

aa1ee104-9194-11ed-ad0d-dac502259ad0.png参考:Deep Clustering Algorithms - 凯鲁嘎吉 - 博客园 (DEC, IDEC, DFKM, DCEC)

4.2基于变分自编码器(Variational AutoEncoder, VAE)的深度聚类

aa300f4c-9194-11ed-ad0d-dac502259ad0.png

参考:变分推断与变分自编码器,变分深度嵌入(Variational Deep Embedding, VaDE),基于图嵌入的高斯混合变分自编码器的深度聚类(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG),元学习——Meta-Amortized Variational Inference and Learning,RL——Deep Reinforcement Learning amidst Continual/Lifelong Structured Non-Stationarity - 凯鲁嘎吉 - 博客园

4.3基于生成对抗网络(Generative Adversarial Network, GAN)的深度聚类

aa4322f8-9194-11ed-ad0d-dac502259ad0.png参考:生成对抗网络(GAN与W-GAN),ClusterGAN: 生成对抗网络中的潜在空间聚类,双层优化问题:统一GAN,演员-评论员与元学习方法(Bilevel Optimization Problem unifies GAN, Actor-Critic, and Meta-Learning Methods)- 凯鲁嘎吉 - 博客园

4.4基于孪生网络(Siamese Neural Network)/对比学习(Contrastive Learning)的深度聚类

aa5373c4-9194-11ed-ad0d-dac502259ad0.png参考:从对比学习(Contrastive Learning)到对比聚类(Contrastive Clustering),COMPLETER: 基于对比预测的缺失视图聚类方法- 凯鲁嘎吉 - 博客园

4.5基于图神经网络(Graph Neural Network)的深度聚类

aa62cc0c-9194-11ed-ad0d-dac502259ad0.png

参考:结构深层聚类网络 - 凯鲁嘎吉 -博客园

参考文献

[1]第40期:基于深度神经网络的聚类算法——郭西风

[2]物以类聚人以群分:聚类分析的一些挑战和进展-凯鲁嘎吉-博客园

[3] A Survey of Deep Clustering Algorithms -凯鲁嘎吉-博客园

[4] Deep Clustering | Deep Learning Notes

[5]郭西风.基于深度神经网络的图像聚类算法研究[D].国防科技大学,2020.

作者:凯鲁嘎吉

出处:http://www.cnblogs.com/kailugaji/

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5239

    浏览量

    119925
收藏 人收藏

    评论

    相关推荐

    深度学习的由来 深度学习的经典算法有哪些

    深度学习作为机器学习的一个分支,其学习方法可以分为监督学习和无监督学习。两种方法都具有其独特的
    发表于 10-09 10:23 365次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的由来 <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的经典算法有哪些

    一文详解机器学习深度学习的区别

    深度学习这几年特别火,就像5年前的大数据一样,不过深度学习其主要还是属于机器学习的范畴领域内,所以这篇文章里面我们来唠一唠机器
    发表于 09-06 12:48 1343次阅读
    一文详解机器<b class='flag-5'>学习</b>和<b class='flag-5'>深度</b><b class='flag-5'>学习</b>的区别

    深度学习服务器怎么做 深度学习服务器diy 深度学习服务器主板用什么

    深度学习服务器怎么做 深度学习服务器diy 深度学习服务器主板用什么  随着人工智能的飞速发展,
    的头像 发表于 08-17 16:11 550次阅读

    深度学习框架和深度学习算法教程

    深度学习框架和深度学习算法教程 深度学习是机器学习
    的头像 发表于 08-17 16:11 727次阅读

    深度学习框架的作用是什么

    深度学习框架的作用是什么 深度学习是一种计算机技术,它利用人工神经网络来模拟人类的学习过程。由于其高度的精确性和精度,
    的头像 发表于 08-17 16:10 1174次阅读

    深度学习框架是什么?深度学习框架有哪些?

    深度学习框架是什么?深度学习框架有哪些?  深度学习框架是一种软件工具,它可以帮助开发者轻松快速
    的头像 发表于 08-17 16:03 1787次阅读

    什么是深度学习算法?深度学习算法的应用

    什么是深度学习算法?深度学习算法的应用 深度学习算法被认为是人工智能的核心,它是一种模仿人类大脑
    的头像 发表于 08-17 16:03 1489次阅读

    深度学习算法简介 深度学习算法是什么 深度学习算法有哪些

    深度学习算法简介 深度学习算法是什么?深度学习算法有哪些?  作为一种现代化、前沿化的技术,
    的头像 发表于 08-17 16:02 6843次阅读

    深度学习的七种策略

    深度学习的七种策略 深度学习已经成为了人工智能领域的热门话题,它能够帮助人们更好地理解和处理自然语言、图形图像、语音等各种数据。然而,要想获得最好的效果,只是使用
    的头像 发表于 08-17 16:02 1318次阅读

    AI、机器学习深度学习的区别及应用

    深度学习和神经网络的区别在于隐藏层的深度。一般来说,神经网络的隐藏层要比实现深度学习的系统浅得多,而深度
    发表于 07-28 10:44 331次阅读
    AI、机器<b class='flag-5'>学习</b>和<b class='flag-5'>深度</b><b class='flag-5'>学习</b>的区别及应用

    基于深度学习的点云分割的方法介绍

      摘 要:点云分割是点云数据理解中的一个关键技术,但传统算法无法进行实时语义分割。近年来深度学习被应用在点云分割上并取得了重要进展。综述了近四年来基于深度
    发表于 07-20 15:23 0次下载

    #机器学习

    机器学习
    未来加油dz
    发布于 :2023年07月14日 16:59:15

    深度学习低光图像增强综述(译)

    较差的环境中捕获的图像的感知或可解释性。该领域的最新进展以基于深度学习的解决方案为主,其中采用了许多学习策略、网络结构、损失函数、训练数据等。在本文中,
    的头像 发表于 07-03 14:43 2515次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>低光图像增强<b class='flag-5'>综述</b>(译)

    深度学习边缘计算综述论文阅读笔记

    这是一篇关于深度学习和边缘计算基础知识的综述,包含了深度学习DL的几种网络模型的介绍,边缘计算的基础知识的介绍,以及二者的结合,如何利用DL
    发表于 05-18 14:36 0次下载
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>边缘计算<b class='flag-5'>综述</b>论文阅读笔记

    智造之眼丨深度学习应用

    智造之眼®科学设计深度学习各应用流程,在尽量简化前期准备工作的基础上为客户提供稳定且准确的深度学习解决方案。
    的头像 发表于 05-04 16:55 478次阅读
    智造之眼丨<b class='flag-5'>深度</b><b class='flag-5'>学习</b>应用