关键词：
目录
目录
简介
阅读指南
1. 深度学习简介
2. 预备知识
2.1 环境配置
2.2 数据操作
2.3 自动求梯度
3. 深度学习基础
3.1 线性回归
3.2 线性回归的从零开始实现
3.3 线性回归的简洁实现
3.4 softmax回归
3.5 图像分类数据集（Fashion-MNIST）
3.6 softmax回归的从零开始实现
3.7 softmax回归的简洁实现
3.8 多层感知机
3.9 多层感知机的从零开始实现
3.10 多层感知机的简洁实现
3.11 模型选择、欠拟合和过拟合
3.12 权重衰减
3.13 丢弃法
3.14 正向传播、反向传播和计算图
3.15 数值稳定性和模型初始化
3.16 实战Kaggle比赛：房价预测
4. 深度学习计算
4.1 模型构造
4.2 模型参数的访问、初始化和共享
4.3 模型参数的延后初始化
4.4 自定义层
4.5 读取和存储
4.6 GPU计算
5. 卷积神经网络
5.1 二维卷积层
5.2 填充和步幅
5.3 多输入通道和多输出通道
5.4 池化层
5.5 卷积神经网络（LeNet）
5.6 深度卷积神经网络（AlexNet）
5.7 使用重复元素的网络（VGG）
5.8 网络中的网络（NiN）
5.9 含并行连结的网络（GoogLeNet）
5.10 批量归一化
5.11 残差网络（ResNet）
5.12 稠密连接网络（DenseNet）
6. 循环神经网络
6.1 语言模型
6.2 循环神经网络
6.3 语言模型数据集（周杰伦专辑歌词）
6.4 循环神经网络的从零开始实现
6.5 循环神经网络的简洁实现
6.6 通过时间反向传播
6.7 门控循环单元（GRU）
6.8 长短期记忆（LSTM）
6.9 深度循环神经网络
6.10 双向循环神经网络
7. 优化算法
7.1 优化与深度学习
7.2 梯度下降和随机梯度下降
7.3 小批量随机梯度下降
7.4 动量法
7.5 AdaGrad算法
7.6 RMSProp算法
7.7 AdaDelta算法
7.8 Adam算法
8. 计算性能
8.1 命令式和符号式混合编程
8.2 异步计算
8.3 自动并行计算
8.4 多GPU计算
9. 计算机视觉
9.1 图像增广
9.2 微调
9.3 目标检测和边界框
9.4 锚框
9.5 多尺度目标检测
9.6 目标检测数据集（皮卡丘）
9.7 单发多框检测（SSD）
9.8 区域卷积神经网络（R-CNN）系列
9.9 语义分割和数据集
9.10 全卷积网络（FCN）
9.11 样式迁移
9.12 实战Kaggle比赛：图像分类（CIFAR-10）
9.13 实战Kaggle比赛：狗的品种识别（ImageNet Dogs）
10. 自然语言处理
10.1 词嵌入（word2vec）
10.2 近似训练
10.3 word2vec的实现
10.4 子词嵌入（fastText）
10.5 全局向量的词嵌入（GloVe）
10.6 求近义词和类比词
10.7 文本情感分类：使用循环神经网络
10.8 文本情感分类：使用卷积神经网络（textCNN）
10.9 编码器—解码器（seq2seq）
10.10 束搜索
10.11 注意力机制
10.12 机器翻译
环境
matplotlib==3.3.2
torch==1.1.0
torchvision==0.3.0
torchtext==0.4.0
CUDA Version==11.0
参考（大家可以在这里下载代码）
本书PyTorch实现：Dive-into-DL-PyTorch
本书TendorFlow2.0实现：Dive-into-DL-TensorFlow2.0
原书地址（大家可以在这里阅读电子版PDF内容）
中文版：动手学深度学习 | Github仓库
English Version: Dive into Deep Learning | Github Repo
引用
如果您在研究中使用了这个项目请引用原书:
@bookzhang2019dive,
title=Dive into Deep Learning,
author=Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola,
note=\\urlhttp://www.d2l.ai,
year=2020
阅读指南
和原书一样，docs内容大体可以分为3个部分：
第一部分（第1章至第3章）涵盖预备工作和基础知识。第1章介绍深度学习的背景。第2章提供动手学深度学习所需要的预备知识。第3章包括深度学习最基础的概念和技术，如多层感知机和模型正则化。如果读者时间有限，并且只想了解深度学习最基础的概念和技术，那么只需阅读第一部分。
第二部分（第4章至第6章）关注现代深度学习技术。第4章描述深度学习计算的各个重要组成部分，并为实现后续更复杂的模型打下基础。第5章解释近年来令深度学习在计算机视觉领域大获成功的卷积神经网络。第6章阐述近年来常用于处理序列数据的循环神经网络。阅读第二部分有助于掌握现代深度学习技术。
第三部分（第7章至第10章）讨论计算性能和应用。第7章评价各种用来训练深度学习模型的优化算法。第8章检验影响深度学习计算性能的几个重要因素。第9章和第10章分别列举深度学习在计算机视觉和自然语言处理中的重要应用。这部分内容读者可根据兴趣选择阅读。
下图描绘了《动手学深度学习》的结构。
上图中由甲章指向乙章的箭头表明甲章的知识有助于理解乙章的内容。
如果读者想短时间了解深度学习最基础的概念和技术，只需阅读第1章至第3章；
如果读者希望掌握现代深度学习技术，还需阅读第4章至第6章。
第7章至第10章读者可以根据兴趣选择阅读。
《动手学深度学习》环境配置（pytorch版）(代码片段)
环境配置（PyTorch版）1环境配置1.1Anaconda1.2Jupyter1.3PyTorch1.4其他2.PyTorch最新安装教程1环境配置本节简单介绍一些必要的软件的安装与配置，由于不同机器软硬件配置不同，所以不详述，遇到问题请善用Google。1.1A... 查看详情
《动手学深度学习》(pytorch版)(代码片段)
《动手学深度学习》PyTorch版前言简介面向人群食用方法方法一方法二方法三目录原书地址引用阅读指南前言读书啦！！！本项目将《动手学深度学习》原书中MXNet代码实现改为PyTorch实现。原书作者：阿斯顿·张、... 查看详情
李沐《动手学深度学习》第二版pytorch笔记1环境搭建(代码片段)
李沐《动手学深度学习》第二版pytorch笔记1搭建环境文章目录李沐《动手学深度学习》第二版pytorch笔记1搭建环境此时尚有耐心虚拟环境搭建创建虚拟环境查看已有的虚拟环境激活虚拟环境安装深度学习框架和d2l软件包安装d2l安... 查看详情
《动手学深度学习》pytorch:数据操作(代码片段)
PyTorch:数据操作创建`Tensor`Tensor操作算术操作索引改变形状线性代数2.2.3广播机制2.2.4运算的内存开销2.2.5`Tensor`和NumPy相互转换`Tensor`转NumPyNumPy数组转`Tensor`2.2.6`Tensor`onGPU在深度学习中，我们通常... 查看详情
pytorch版《动手学深度学习》开源了，最美dl书遇上最赞dl框架
...度学习，想要玩最常见的深度学习框架？那就用PyTorch版的《动手学深度学习》吧，零基础也能入门DL。李沐等人的开源中文书《动手学深度学习》现在有PyTorch版实现了。不论是原书中的示例代码，还是实战项目&#x... 查看详情
自动求导动手学深度学习pytorch(代码片段)
例子：importtorchx=torch.arange(4.0)xtensor([0.,1.,2.,3.])x.requires_grad_(True)#x=torch.arange(4.0,requires_grad=True)x.grady=2*torch.dot(x,x)ytensor(28.,grad_fn=<MulBackwa 查看详情
小白学习之pytorch框架-动手学深度学习(begin)
在这向大家推荐一本书-花书-动手学深度学习pytorch版，原书用的深度学习框架是MXNet，这个框架经过Gluon重新再封装，使用风格非常接近pytorch，但是由于pytorch越来越火，个人又比较执着，想学pytorch，好，有个大神来了，把《动... 查看详情
《动手学深度学习》线性回归（pytorch版）
线性回归（PyTorch版）1.线性回归1.1线性回归的基本要素1.1.1模型定义1.1.2模型训练(1)训练数据(2)损失函数(3)优化算法1.1.3模型预测1.2线性回归的表示方法1.2.1神经网络图1.2.2矢量计算表达式小结1.线性回归线性回归输出是一... 查看详情
《动手学深度学习》softmax回归(pytorch版)
softmax-regression1分类问题2softmax回归模型3单样本分类的矢量计算表达式4小批量样本分类的矢量计算表达式5交叉熵损失函数6模型预测及评价小结前几节介绍的线性回归模型适用于输出为连续值的情景。在另一类情景中，模型输... 查看详情
《动手学深度学习》softmax回归(pytorch版)
softmax-regression1分类问题2softmax回归模型3单样本分类的矢量计算表达式4小批量样本分类的矢量计算表达式5交叉熵损失函数6模型预测及评价小结前几节介绍的线性回归模型适用于输出为连续值的情景。在另一类情景中，模型输... 查看详情
softmax回归+损失函数+图片分类数据集动手学深度学习v2pytorch
参考https://www.bilibili.com/video/BV1K64y1Q7wu?p=1 查看详情
动手学深度学习diveintodeeplearning--day01--学习资料环境配置
...程深度学习介绍教程文档B站视频合集：动手学深度学习PyTorch版代码仓库 查看详情
《动手学深度学习》线性回归的简洁实现（linear-regression-pytorch）(代码片段)
线性回归的简洁实现（linear-regression-pytorch）1.生成数据集2.读取数据3.定义模型4.初始化模型参数5.定义损失函数6.定义优化算法7.训练模型8.小结随着深度学习框架的发展，开发深度学习应用变得越来越便利。实践中... 查看详情
《动手学深度学习》线性回归的简洁实现（linear-regression-pytorch）(代码片段)
线性回归的简洁实现（linear-regression-pytorch）1.生成数据集2.读取数据3.定义模型4.初始化模型参数5.定义损失函数6.定义优化算法7.训练模型8.小结随着深度学习框架的发展，开发深度学习应用变得越来越便利。实践中... 查看详情
跟李沐导师：动手学深度学习！
...xff0c;就可以愉快地开始啃这本书了。目前已经上线了最新PyTorch版本。提前进群学习关注公众号，回复“三月”进学习群 查看详情
《动手学深度学习》深度学习简介（完整版）
《动手学深度学习》PyTorch版深度学习简介起源发展成功案例特点小结练习参考文献深度学习简介你可能已经接触过编程，并开发过一两款程序。同时你可能读过关于深度学习或者机器学习的铺天盖地的报道，尽管很多时... 查看详情
使用块的网络vgg动手学深度学习v2pytorch
1.使用块的网络VGGhttps://cv.gluon.ai/model_zoo/classification.html2.代码实现VGG网络测试准确度对比：VGGtestacc0.917AlexNettestacc0.883LeNettestacc0.827对比一下AlexNet的精确度3.Q&AVGG把网络做的模块化，可以训练更深的网络，更简单 查看详情
《动手学深度学习》自动求梯度(代码片段)
...中，我们经常需要对函数求梯度（gradient）。PyTorch提供的autograd包能够根据输入和前向传播过程自动构建计算图，并执行反向传播。本节将介绍如何使用autograd包来进行自动求梯度的有关操作。概念上一节介绍的Ten... 查看详情