动手学深度学习 + TF2.0开源项目,不容错过

news/2024/9/20 3:00:58

作者 | 深度传送门

来源 | 深度传送门(ID:deep_deliver)


关于项目

本项目将《动手学深度学习》(Dive into Deep Learning)原书中的MXNet实现改为TensorFlow 2.0实现,项目已得到李沐老师的同意。

此书的中、英版本存在一些不同,本项目主要针对此书的中文版进行TensorFlow2.0重构。另外,本项目也参考了对此书中文版进行PyTorch重构的项目Dive-into-DL-PyTorch(https://github.com/ShusenTang/Dive-into-DL-PyTorch),在此表示感谢。

面向人群

本项目面向对深度学习感兴趣,尤其是想使用TensorFlow 2.0进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识,你只需了解基础的数学和编程,如基础的线性代数、微分和概率,以及基础的Python编程。

目录

  • 简介

  • 阅读指南

  • 1. 深度学习简介

  • 2. 预备知识

    • 2.1 环境配置

    • 2.2 数据操作

    • 2.3 自动求梯度

    • 2.4 查阅文档

  • 3. 深度学习基础

    • 3.1 线性回归

    • 3.2 线性回归的从零开始实现

    • 3.3 线性回归的简洁实现

    • 3.4 softmax回归

    • 3.5 图像分类数据集(Fashion-MNIST)

    • 3.6 softmax回归的从零开始实现

    • 3.7 softmax回归的简洁实现

    • 3.8 多层感知机

    • 3.9 多层感知机的从零开始实现

    • 3.10 多层感知机的简洁实现

    • 3.11 模型选择、欠拟合和过拟合

    • 3.12 权重衰减

    • 3.13 丢弃法

    • 3.14 正向传播、反向传播和计算图

    • 3.15 数值稳定性和模型初始化

    • 3.16 实战Kaggle比赛:房价预测

  • 4. 深度学习计算

    • 4.1 模型构造

    • 4.2 模型参数的访问、初始化和共享

    • 4.3 模型参数的延后初始化

    • 4.4 自定义层

    • 4.5 读取和存储

    • 4.6 GPU计算

  • 5. 卷积神经网络

    • 5.1 二维卷积层

    • 5.2 填充和步幅

    • 5.3 多输入通道和多输出通道

    • 5.4 池化层

    • 5.5 卷积神经网络(LeNet)

    • 5.6 深度卷积神经网络(AlexNet)

    • 5.7 使用重复元素的网络(VGG)

    • 5.8 网络中的网络(NiN)

    • 5.9 含并行连结的网络(GoogLeNet)

    • 5.10 批量归一化

    • 5.11 残差网络(ResNet)

    • 5.12 稠密连接网络(DenseNet)

  • 6. 循环神经网络

    • 6.1 语言模型

    • 6.2 循环神经网络

    • 6.3 语言模型数据集(周杰伦专辑歌词)

    • 6.4 循环神经网络的从零开始实现

    • 6.5 循环神经网络的简洁实现

    • 6.6 通过时间反向传播

    • 6.7 门控循环单元(GRU)

    • 6.8 长短期记忆(LSTM)

    • 6.9 深度循环神经网络

    • 6.10 双向循环神经网络

  • 7. 优化算法

    • 7.1 优化与深度学习

    • 7.2 梯度下降和随机梯度下降

    • 7.3 小批量随机梯度下降

    • 7.4 动量法

    • 7.5 AdaGrad算法

    • 7.6 RMSProp算法

    • 7.7 AdaDelta算法

    • 7.8 Adam算法

  • 8. 计算性能

    • 8.1 命令式和符号式混合编程

    • 8.2 异步计算

    • 8.3 自动并行计算

    • 8.4 多GPU计算

  • 9. 计算机视觉

    • 9.1 图像增广

    • 9.2 微调

    • 9.3 目标检测和边界框

    • 9.4 锚框

    • 9.5 多尺度目标检测

    • 9.6 目标检测数据集(皮卡丘)

    • 待更新...

  • 10. 自然语言处理

    • 10.1 词嵌入(word2vec)

    • 10.2 近似训练

    • 10.3 word2vec的实现

    • 10.4 子词嵌入(fastText)

    • 10.5 全局向量的词嵌入(GloVe)

    • 10.6 求近义词和类比词

    • 10.7 文本情感分类:使用循环神经网络

    • 10.8 文本情感分类:使用卷积神经网络(textCNN)

    • 10.9 编码器—解码器(seq2seq)

    • 10.10 束搜索

    • 10.11 注意力机制

    • 10.12 机器翻译

持续更新中......

注意事项:受限于微信不能放站外链接,详细目录的链接可查看文章末尾点击左下角原文链接的GitHub地址进行学习、star以及fork,后续仓库会持续更新相关内容。

GitHub现已更新到第五章,持续更新中。。。

https://github.com/TrickyGo/Dive-into-DL-TensorFlow2.0

推荐阅读

  • 远场语音识别错误率降低30%,百度提基于复数CNN网络的新技术

  • 微软张若非:搜索引擎和广告系统,那些你所不知的AI落地技术

  • 程序员的救星-ThinkPad T490 对比体验

  • C++控制台打飞机小游戏 | CSDN 博文精选

  • 激辩:机器究竟能否理解常识?

  • Instagram个性化推荐工程中三个关键技术是什么?

  • 从YARN迁移到k8s,滴滴机器学习平台二次开发是这样做的

  • 华为将正式起诉美国联邦通信委员会;谷歌技术故障导致美国三大航空公司网站短暂宕机;英特尔拟20亿美元买以色列AI芯片公司……

  • 2020年,区块链开发者还有哪些期待?

  • 你点的每个“在看”,我都认真当成了AI


http://lihuaxi.xjx100.cn/news/275814.html

相关文章

从源码学习Transformer!

点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达本文转自|机器学习算法工程师Transformer总体结构近几年NLP领域有了突飞猛进的发展,预训练模型功不可没。当前利用预训练模型(pretrain models&…

老大说,网上这种获取真实IP地址的方法不对,我不信...

点击上方“方志朋”,选择“设为星标”回复”666“获取新整理的面试资料作者:蔡永吉 来源:http://bit.ly/33H8RMm想必大家对这段代码并不陌生:public String getIpAddr(HttpServletRequest request) {String ip request.getHeade…

产品与均值比较图

2019独角兽企业重金招聘Python工程师标准>>> 效果图1、绘制辅助数值 在原表中计算出均值这一列 2、鼠标选定数列表,插入柱状图 3、进行比例大小的调整 4、调整背景色 a、 选中对象--Ctrl1--快速的打开对象属性 b、填充--选择一种满意的颜色 5、调整坐标轴…

StringBuilder、StringBuffer、String区别

相信大家对 String 和 StringBuffer 的区别也已经很了解了,但是估计还是会有很多同志对这两个类的工作原理有些不清楚的地方,今天重新把这个概念给大家复习一下,顺便牵出 J2SE5.0 里面带来的一个新的字符操作的类—— StringBuilder &#xf…

微博鸿蒙测试版,不久前华为宣布,将会在6月2日举... - @姬永锋 的微博精选 - 微博国际站...

不久前华为宣布,将会在6月2日举行发布会发布鸿蒙手机,除此之外一大波和鸿蒙系统有关的硬件也会正式登场。对中国消费者、广大科技爱好者来说,“鸿蒙”始终是一个神秘却又充满吸引力的词汇,尤其是华为遭到限制、手机业务面临难题的…

互补输出级采用共集形式是为了使_互补输出级采用共集形式是为了使

【单选题】下面结构中最适于表示稀疏无向图的是( )。【简答题】图的广度优先遍历类似于树的( )遍历,它所用到的数据结构是( )。【填空题】已知L是有表头结点的非空循环单链表,试从下列提供的答案中选择合适的填入空格中。【西南交通大学2004】 (1)删除p结点之后的结点语句序列是…

6个能写进简历的AI项目,有点难,一起来挑战?

NLP进阶之路上,你是否也遇到过这些疑问?为什么在这个问题上使用Adam,而不是GD或者Adagrad? 对于特定的业务场景,我应该如何把领域知识考虑进去, 用先验,还是用限制条件? 对于拼车场景&#xf…

机器学习专业要不要读博?

点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达本文转自|机器学习算法那些事要不要读博?读博值不值得?如何才能顺利完成博士生涯,并为职业发展打好基础?最近,社…