侵权投诉

你们知道深度学习有哪四个学习阶段吗

ViTEX机器视觉 2021-06-10 15:27 次阅读

机器学习领域是巨大的,为了学习不迷路,可以从以下列表帮助学习。它概述深度学习的一些学习细节。

阶段1:入门级入门级能够掌握以下技能:

能够处理小型数据集

理解经典机器学习技术的关键概念

理解经典网络DNN、CNN和RNN

数据处理

在入门级使用的数据集很小,可以放入主内存中。只需几行代码即可应用此类操作。在此阶段数据包括Audio、Image、Time-series和Text等类型。

经典机器学习

在深入研究深度学习之前,学习基本机器学习技术是一个不错的选择,其包括回归、聚类、SVM和树模型。

网络

掌握常见的网络层,以及相应的神经网络;GAN、AE、VAE、DNN、CNN、RNN 等等。在入门阶段,可以优先掌握DNN、CNN和RNN。

理论

没有神经网络就没有深度学习,没有(数学)理论就没有神经网络。可以通过了解数学符号来开始学习,可以从矩阵、线性代数和概率论开始你的学习。

阶段2:进阶水平进阶和入门级之间没有真正的分界,进阶水平能够处理更大的数据集,能够使用高级网络处理自定义项模型:

处理更大的数据集

能够自定义模型完成任务

网络模型精度变得更好

数据处理

能够处理几GB的数据集,需要自定义数据扩增方法和数据处理函数。

自己完成任务

能够根据具体任务完成代码的开发,而不是参考MNIST的教程完成编码。

自定义网络

处理自定义项目时,如何处理数据数据?如何定义自己的网络层?

模型训练

掌握迁移学习的思路,学会使用预训练权重完成新任务。并掌握冻结部分网络层的方法。

深度学习理论

掌握深度学习模型的正向传播和反向传播,特别是链式求导法则。掌握激活函数和目标函数的作用,能够选择合适的激活函数和目标函数。

阶段3:熟练水平与进阶相比你需要掌握更加的数据集处理方法,并掌握加速模型训练的方法:

大规模数据的处理和存储

网络模型的调参

无监督学习和强化学习

数据处理

需要掌握几百GB数据集的处理,学会Linux的操作。此阶段可能接触到多模态任务。

无监督项目

开始尝试无监督网络模型的搭建,如自编码器和GAN模型,能够掌握模型原理。

模型训练

掌握模型调参的方法和常见的日志和可视化工具,如TensorBoard的使用。掌握学习率的调节方法,如余弦退火。掌握多机和混合精度训练。

阶段4:专家级掌握前沿的学术模型的发展,知道自己的兴趣是什么,并能提出新的模型:

学会使用JAX或DALI处理数据

熟悉图神经网络和Transformer模型

本文在原文基础上进行了精简,原文链接:https://towardsdatascience.com/a-guide-to-the-field-of-deep-learning-9bb9b21dae2

编辑:jq

原文标题:深度学习的四个学习阶段!

文章出处:【微信号:vision263com,微信公众号:ViTEX机器视觉】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

Cadence推出革命性新产品Cerebrus:完全基于机器学习,提供一流生产力和结果质量,拓展数字设计领导地位

随着 Cerebrus 加入到Cadence广泛的数字产品系列中,Cadence现在可以提供业界最先....
的头像 西西 发表于 07-23 16:37 253次 阅读
Cadence推出革命性新产品Cerebrus:完全基于机器学习,提供一流生产力和结果质量,拓展数字设计领导地位

网络欺诈检测系统的应用优势是什么

根据普华永道2018年发布的一个经济犯罪调查显示,欺诈涉及数十亿美元的业务,并且每年都在增加:在他们....
发表于 07-23 09:20 67次 阅读
网络欺诈检测系统的应用优势是什么

ICME 2021|高性能、保护隐私的下一代生物识别之路

指纹识别是一种典型生物特征比对方式,一般来说有两种类型任务:第一种是验证,也称之为 1:1 的比对,....
发表于 07-20 14:33 700次 阅读
ICME 2021|高性能、保护隐私的下一代生物识别之路

Vivado ML(机器学习) 2021尝鲜 精选资料分享

参考:UG973 (v2021.1)图:赛灵思全新 Vivado® ML 版Vivado 2021.1这个新版本的新增加的一些特:1、在IP这个层面的功能...
发表于 07-20 07:06 0次 阅读
Vivado ML(机器学习) 2021尝鲜  精选资料分享

高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(三)

ML从历史数据(资料)中学习,增广阅历,萃取经验,沉淀其精华,领悟其中之道,谓之「潜藏之规律」。然后将此道应用于眼前或未来...
发表于 07-14 16:21 101次 阅读
高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(三)

高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(二)

ML从历史数据(资料)中学习,增广阅历,萃取经验,沉淀其精华,领悟其中之道,谓之「潜藏之规律」。然后将此道应用于眼前或未来...
发表于 07-14 16:16 0次 阅读
高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(二)

高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(一)

ML从历史数据(资料)中学习,增广阅历,萃取经验,沉淀其精华,领悟其中之道,谓之「潜藏之规律」。然后将此道应用于眼前或未来...
发表于 07-14 16:14 71次 阅读
高焕堂老师:ML是如何鉴往知来,瞬间洞察(眼前及未来)(一)

基于STM32的机器学习(手势识别)精选资料分享

第一次写博客,希望能给研究单片机AI的同仁一个好的启示。如有不当,多多指正。STM32自从2019年开始发布AI库以来,网络上...
发表于 07-14 08:09 0次 阅读
基于STM32的机器学习(手势识别)精选资料分享

请问一下如何去打造一种机器学习流水线?

如何去打造一种机器学习流水线?有哪些步骤?...
发表于 07-14 06:26 0次 阅读
请问一下如何去打造一种机器学习流水线?

基于神经网络的图像边缘检测方案说明

为什么要提高图像边缘检测的精度? 图像识别已经应用于生产生活各个领域,如在人脸识别领域,提高图像检测....
发表于 07-13 15:39 1794次 阅读
基于神经网络的图像边缘检测方案说明

如何构建神经网络?

原文链接: 神经网络是一种基于现有数据创建预测的计算系统。如何构建神经网络?神经网络包括:输入层:根据现有数据获取输入的层...
发表于 07-12 08:02 0次 阅读
如何构建神经网络?

离散小波转换(DWT)深度神经网络是什么

论文信息2019Learning作者单位:美国莱斯大学(QS前100)&清华大学&香港大学数据集Goldwind Inc数据集Goldwind是中国最大的...
发表于 07-12 07:38 0次 阅读
离散小波转换(DWT)深度神经网络是什么

人工神经网络之深度学习

人类的好奇心是科学技术进步的源泉。飞机的发明就是人类对鸟类飞行的好奇心产生的,一开始是在奴隶的身上安装类似羽毛的纺织物,...
发表于 07-12 07:03 0次 阅读
人工神经网络之深度学习

深度神经网络是什么

多层感知机 深度神经网络in collaboration with Hsu Chung Chuan, Lin Min Htoo, and Quah Jia Yong. 与许忠传,林敏涛...
发表于 07-12 06:35 0次 阅读
深度神经网络是什么

认真读完这21句话你的机器学习就算是入门了

【编者按】这是一篇关于机器学习工具包Scikit-learn的入门级读物。对于程序员来说,机器学习的....
的头像 ViTEX机器视觉 发表于 07-06 17:42 349次 阅读
认真读完这21句话你的机器学习就算是入门了

Marvell凭借业界首款5纳米数据处理器拓展OCTEON的领导地位

OCTEON 10系列集成安谋Neoverse N2内核,为性能和低功耗设定行业基准。
发表于 07-06 17:17 2035次 阅读
Marvell凭借业界首款5纳米数据处理器拓展OCTEON的领导地位

如何使用Python-OpenCV实现餐盘水果识别与计价的应用

导读本文主要介绍使用Python-OpenCV实现餐盘水果识别与计价的应用。 测试图像与说明 使用图....
的头像 ViTEX机器视觉 发表于 07-06 11:02 389次 阅读
如何使用Python-OpenCV实现餐盘水果识别与计价的应用

基于神经网络的图像边缘检测方案介绍

为什么要提高图像边缘检测的精度? 图像识别已经应用于生产生活各个领域,如在人脸识别领域,提高图像检测....
发表于 07-06 10:00 915次 阅读
基于神经网络的图像边缘检测方案介绍

为什么对于零件要进行精密的光学检测

为什么对于零件进行精密的光学检测 机械零件的尺寸大小和加工质量会影响零件之间的配合精密度,从而整个仪....
发表于 07-06 09:57 81次 阅读
为什么对于零件要进行精密的光学检测

恩智浦将GaN用于5G多芯片模块,以实现高能效移动网络

减少能耗是电信基础设施的一个主要目标,其中每一点效率都至关重要。在多芯片模组中使用GaN可在2.6 ....
发表于 07-05 17:41 957次 阅读
恩智浦将GaN用于5G多芯片模块,以实现高能效移动网络

基于果蝇算法的混合小波神经网络交通流预测模型

基于果蝇算法的混合小波神经网络交通流预测模型
发表于 07-05 16:52 27次 阅读
基于果蝇算法的混合小波神经网络交通流预测模型

基于多通道时频信号的CNN智能故障诊断技术

基于多通道时频信号的CNN智能故障诊断技术
发表于 07-05 16:44 20次 阅读
基于多通道时频信号的CNN智能故障诊断技术

基于桥式吊车系统的分组自适应控制策略

基于桥式吊车系统的分组自适应控制策略
发表于 07-05 15:31 17次 阅读
基于桥式吊车系统的分组自适应控制策略

将GaN用于射频应用的所有优势

氮化镓 (GaN) 是一种宽带隙材料,在高功率射频 (RF) 应用中具有显着优势。
的头像 汽车玩家 发表于 07-05 14:46 237次 阅读
将GaN用于射频应用的所有优势

基于两步式理论框架实现机器学习的高通量微流控平台的构建

在材料科学领域,制备具有特定光学性能纳米材料的方法极为重要。近年来,机器学习方法已用于解决材料科学中....
的头像 知社学术圈 发表于 07-05 11:44 325次 阅读
基于两步式理论框架实现机器学习的高通量微流控平台的构建

基于双通道多特征融合的电力负荷智能感知综述

基于双通道多特征融合的电力负荷智能感知综述
发表于 07-02 17:09 28次 阅读
基于双通道多特征融合的电力负荷智能感知综述

赛灵思Vivado ML版优化应用设计

赛灵思近日宣布推出 Vivado ML 版,这是业内首个基于机器学习(ML )优化算法以及先进的面向....
的头像 FPGA开发圈 发表于 07-02 16:40 312次 阅读
赛灵思Vivado ML版优化应用设计

智能风控决策系统MOFD的性能特点及应用场景

互联网技术已经渗透到人们的日常生活中,各行各业的业务逐渐向线上转移,欺诈也随之转移,值得关注之一就是....
的头像 英特尔责任芯 发表于 07-02 15:39 294次 阅读
智能风控决策系统MOFD的性能特点及应用场景

基于残差神经网络的微型电机转子焊点图像检测

基于残差神经网络的微型电机转子焊点图像检测
发表于 07-02 14:56 26次 阅读
基于残差神经网络的微型电机转子焊点图像检测

改进VGG模型在苹果外观识别分类中的应用

改进VGG模型在苹果外观识别分类中的应用
发表于 07-02 14:52 18次 阅读
改进VGG模型在苹果外观识别分类中的应用

氮化镓晶片的化学机械抛光工艺综述

氮化镓晶片的化学机械抛光工艺综述
发表于 07-02 11:23 30次 阅读
氮化镓晶片的化学机械抛光工艺综述

基于BP神经网络的胰岛素评价模型

基于BP神经网络的胰岛素评价模型
发表于 07-02 11:20 17次 阅读
基于BP神经网络的胰岛素评价模型

未来十年安全边缘设备将会兴起 2021年仅是个开端

未来十年,安全边缘设备将会兴起……2021年仅仅标志着智能边缘时代的开端,这将是一个充满挑战性的漫长....
的头像 NXP客栈 发表于 07-02 10:56 334次 阅读
未来十年安全边缘设备将会兴起 2021年仅是个开端

DapuStor推出Haishen3 E1.S form factor 企业级SSD

近日,DapuStor推出Haishen3 E1.S form factor 企业级SSD。E1.S....
的头像 DapuStor 发表于 07-02 09:52 322次 阅读
DapuStor推出Haishen3 E1.S form factor 企业级SSD

基于RNN的GIS故障预测算法及系统设计

基于RNN的GIS故障预测算法及系统设计
发表于 07-01 15:38 18次 阅读
基于RNN的GIS故障预测算法及系统设计

基于Mask RCNN的滤袋开口检测方法综述

基于Mask RCNN的滤袋开口检测方法综述
发表于 07-01 15:36 20次 阅读
基于Mask RCNN的滤袋开口检测方法综述

基于改进KH-ANFIS的海洋溶菌酶发酵浓度检测

基于改进KH-ANFIS的海洋溶菌酶发酵浓度检测
发表于 07-01 15:07 19次 阅读
基于改进KH-ANFIS的海洋溶菌酶发酵浓度检测

如何在训练过程中正确地把数据输入给模型

机器学习中一个常见问题是判定与数据交互的最佳方式。 在本文中,我们将提供一种高效方法,用于完成数据的....
的头像 XILINX开发者社区 发表于 07-01 10:47 222次 阅读
如何在训练过程中正确地把数据输入给模型

芯盾时代智能人机识别 CAPTCHA有哪些特色

芯盾时代智能人机识别 CAPTCHA 结合行为生物分析与机器学习技术,有效区分人机操作,根据风险程度....
的头像 英特尔责任芯 发表于 07-01 10:15 244次 阅读
芯盾时代智能人机识别 CAPTCHA有哪些特色

基于PyTorch的物体检测包围框数据增强包

像许多神经网络模型一样,目标检测模型在训练大量数据时效果最好。通常情况下,可用的数据有限,世界各地的....
的头像 ViTEX机器视觉 发表于 07-01 09:23 281次 阅读
基于PyTorch的物体检测包围框数据增强包

机器学习在卫星遥测分析建模中的应用综述

机器学习在卫星遥测分析建模中的应用综述
发表于 06-29 16:40 27次 阅读
机器学习在卫星遥测分析建模中的应用综述

基于句子级上下文的神经机器翻译综述

基于句子级上下文的神经机器翻译综述
发表于 06-29 16:26 29次 阅读
基于句子级上下文的神经机器翻译综述

基于DNN与规则学习的机器翻译算法综述

基于DNN与规则学习的机器翻译算法综述
发表于 06-29 15:44 26次 阅读
基于DNN与规则学习的机器翻译算法综述

基于FDRE的节水灌溉智能控制系统

基于FDRE的节水灌溉智能控制系统
发表于 06-29 14:28 22次 阅读
基于FDRE的节水灌溉智能控制系统

基于模糊RBF神经网络算法的灌溉控制系统

基于模糊RBF神经网络算法的灌溉控制系统
发表于 06-29 14:25 23次 阅读
基于模糊RBF神经网络算法的灌溉控制系统

CFO如何在转型浪潮中找准自身定位

据 ISACA 调研,91%的商业领袖将数字化转型视为激发企业创新和提升工作效率的一种方式。在这个过....
的头像 广和通FIBOCOM 发表于 06-29 11:08 472次 阅读
CFO如何在转型浪潮中找准自身定位

基于循环神经网络的Modbus/TCP安全漏洞测试

基于循环神经网络的Modbus/TCP安全漏洞测试
发表于 06-27 16:39 47次 阅读
基于循环神经网络的Modbus/TCP安全漏洞测试

基于BP神经网络优化的光伏发电预测模型

基于BP神经网络优化的光伏发电预测模型
发表于 06-27 16:16 34次 阅读
基于BP神经网络优化的光伏发电预测模型

基于终身机器学习的主题挖掘评分和评论推荐模型

基于终身机器学习的主题挖掘评分和评论推荐模型
发表于 06-27 15:34 18次 阅读
基于终身机器学习的主题挖掘评分和评论推荐模型

基于注意力机制的新闻文本分类模型

基于注意力机制的新闻文本分类模型
发表于 06-27 15:32 43次 阅读
基于注意力机制的新闻文本分类模型

不确定区间的混合概率电力负荷预测方法

不确定区间的混合概率电力负荷预测方法
发表于 06-27 14:21 43次 阅读
不确定区间的混合概率电力负荷预测方法

基于层级循环神经网络的X线线图像腰椎识别

基于层级循环神经网络的X线线图像腰椎识别
发表于 06-27 11:24 28次 阅读
基于层级循环神经网络的X线线图像腰椎识别

基于改进CNN等的左心室射血分数精准计算

基于改进CNN等的左心室射血分数精准计算
发表于 06-27 10:44 18次 阅读
基于改进CNN等的左心室射血分数精准计算

如何从13个Kaggle比赛中挑选出的最好的Kaggle kernel

导读 覆盖了模型相关的方方面面,从数据准备到模型的推理,每个阶段的方法和要点,非常多的参考资料,足够....
的头像 ViTEX机器视觉 发表于 06-27 09:26 230次 阅读
如何从13个Kaggle比赛中挑选出的最好的Kaggle kernel

一文带你深入了解自动驾驶的历史

Autonomous Vehicles 时至今日,自动驾驶已不是鲜见的话题,无论是商用车还是家用车,....
的头像 芯驰科技SemiDrive 发表于 06-26 16:08 601次 阅读
一文带你深入了解自动驾驶的历史

LiDAR系统利用GaN的坚韧

LiDAR 代表 Light Detection and Ranging,即通过光带中的电磁辐射进行....
的头像 汽车玩家 发表于 06-26 16:04 373次 阅读
LiDAR系统利用GaN的坚韧

Google Brain和DeepMind联手发布可以分布式训练模型的框架

【导读】AI模型进入大数据时代,单机早已不能满足训练模型的要求,最近Google Brain和Dee....
的头像 通信首条 发表于 06-26 15:42 423次 阅读
Google Brain和DeepMind联手发布可以分布式训练模型的框架

谷歌大脑和DeepMind联合发布堪称AI界的MapReduce

【新智元导读】AI模型进入大数据时代,单机早已不能满足训练模型的要求,最近Google Brain和....
的头像 通信首条 发表于 06-26 15:32 2653次 阅读
谷歌大脑和DeepMind联合发布堪称AI界的MapReduce