深度学习的四个学习阶段!

news/2024/7/9 6:34:19

↑↑↑关注后"星标"Datawhale

每日干货 & 每月组队学习,不错过

 Datawhale干货 

来源:Coggle数据科学

机器学习领域是巨大的,为了学习不迷路,可以从以下列表帮助学习。它概述深度学习的一些学习细节。

阶段1:入门级

入门级能够掌握以下技能:

  • 能够处理小型数据集

  • 理解经典机器学习技术的关键概念

  • 理解经典网络DNN、CNN和RNN

数据处理

在入门级使用的数据集很小,可以放入主内存中。只需几行代码即可应用此类操作。在此阶段数据包括Audio、Image、Time-series和Text等类型。

经典机器学习

在深入研究深度学习之前,学习基本机器学习技术是一个不错的选择,其包括回归、聚类、SVM和树模型。

网络

掌握常见的网络层,以及相应的神经网络;GAN、AE、VAE、DNN、CNN、RNN 等等。在入门阶段,可以优先掌握DNN、CNN和RNN。

理论

没有神经网络就没有深度学习,没有(数学)理论就没有神经网络。可以通过了解数学符号来开始学习,可以从矩阵、线性代数和概率论开始你的学习

阶段2:进阶水平

进阶和入门级之间没有真正的分界,进阶水平能够处理更大的数据集,能够使用高级网络处理自定义项模型:

  • 处理更大的数据集

  • 能够自定义模型完成任务

  • 网络模型精度变得更好

数据处理

能够处理几GB的数据集,需要自定义数据扩增方法和数据处理函数。

自己完成任务

能够根据具体任务完成代码的开发,而不是参考MNIST的教程完成编码。

自定义网络

处理自定义项目时,如何处理数据数据?如何定义自己的网络层?

模型训练

掌握迁移学习的思路,学会使用预训练权重完成新任务。并掌握冻结部分网络层的方法。

深度学习理论

掌握深度学习模型的正向传播和反向传播,特别是链式求导法则。掌握激活函数和目标函数的作用,能够选择合适的激活函数和目标函数。

阶段3:熟练水平

与进阶相比你需要掌握更加的数据集处理方法,并掌握加速模型训练的方法:

  • 大规模数据的处理和存储

  • 网络模型的调参

  • 无监督学习和强化学习

数据处理

需要掌握几百GB数据集的处理,学会Linux的操作。此阶段可能接触到多模态任务。

无监督项目

开始尝试无监督网络模型的搭建,如自编码器和GAN模型,能够掌握模型原理。

模型训练

掌握模型调参的方法和常见的日志和可视化工具,如TensorBoard的使用。掌握学习率的调节方法,如余弦退火。掌握多机和混合精度训练。

阶段4:专家级

掌握前沿的学术模型的发展,知道自己的兴趣是什么,并能提出新的模型:

  • 学会使用JAX或DALI处理数据

  • 熟悉图神经网络和Transformer模型

本文在原文基础上进行了精简,原文链接:https://towardsdatascience.com/a-guide-to-the-field-of-deep-learning-9bb9b21dae2

整理不易,三连


http://lihuaxi.xjx100.cn/news/257799.html

相关文章

Pycharm中如何安装python库

1首先打开pycharm工具,选择File中的Setting选项,如下图所示 2在打开的setting界面中我们点击python的解释器,你会看到很多导入的第三方库,如下图所示,点击最右边的加号 3在弹出的available packages界面中,…

Redis源码分析:基础概念介绍与启动概述

Redis源码分析 基于Redis-5.0.4版本,进行基础的源码分析,主要就是分析一些平常使用过程中的内容。仅作为相关内容的学习记录,有关Redis源码学习阅读比较广泛的便是《Redis设计与实现》一书,浏览学习该书之后,觉得相关…

SpringBoot + Redis:模拟 10w 人的秒杀抢单!

欢迎关注方志朋的博客,回复”666“获面试宝典作者:神牛003来源:cnblogs.com/wangrudong003/p/10627539.html本篇内容主要讲解的是redis分布式锁,这个在各大厂面试几乎都是必备的,下面结合模拟抢单的场景来使用她&#…

大火的多模态,落地了吗?

01多模态机器学习多模态机器学习,英文全称 MultiModal Machine Learning (MMML),旨在通过机器学习的方法实现处理和理解多源模态信息的能力。每一种信息的来源或者形式,都可以称为一种模态。例如,人有触觉,听觉&#x…

Python 制作 gif 生成工具,斗图再也不会输啦

作者 | 周萝卜来源 | 萝卜大杂烩在当前无表情包不会聊天的时代,怎么也不能输在表情包数量不足上啊,今天咱们就来制作一个 gif 生成工具,用来制作表情包也太好用啦先来看看整体效果页面设计 本文工具的页面,是通过 Qt Designer 来设…

Matlab与线性代数--矩阵的LU分解

本图文详细介绍了Matlab中有关矩阵LU分解的操作。

36晋级12第五场:冯志刚决胜入围(节目视频)

视频地址:[url]http://win.cn.yahoo.com/070613/16/mn53.html[/url]比赛时间:2007年4月17日 选手:王阳、冯志刚、刘恩霞、王嵩 评委: 熊晓鸽:IDG创业投资基金 创始合伙人 马云:阿里巴巴集团董事局主席及雅虎…

nginx 开发一个简单的 HTTP 模块

2019独角兽企业重金招聘Python工程师标准>>> 1. 下载 Nginx http://nginx.org/ 2. 目录结构 $ tree -L 2 . ├── mytest_module │ ├── config │ └── ngx_http_mytest_module.c └── nginx ... 3. config # 在 configure 执行时使用 ngx_addon_nam…