6.6. 通过时间反向传播 6.6.1. 定义模型 6.6.2. 模型计算图 6.6.3. 方法 6.6.4. 小结 6.6.5. 练习 6.6. 通过时间反向传播 如果读者做了上一节的练习，就会发现，如果不裁剪梯度，模型将无法正常训练。为了深刻理解这一现象，本节将介绍循环神经网络中梯度的计算和存储方法，即通过时间反向传播（back-pro...

术语 术语 术语/缩略语 说明 Ascend 华为昇腾系列芯片的系列名称。 CCE Cube-based Computing Engine，面向硬件架构编程的算子开发工具。 CCE-C Cube-based Computing Engine C，使用CCE开发的C代码。 CheckPoint MindSpore模型训练检查点，保存模型的参数，可以用于...

一、卷积运算 1.1 数学卷积 1.1.1 卷积定义 1.1.2 数学卷积与矩阵乘法 1.1.2.1 一维卷积和矩阵乘法 1.1.2.2 二维卷积和矩阵乘法 1.2 神经网络卷积 1.2.1 卷积定义 1.2.2 输入填充 1.2.3 三维卷积 1.2.4 降采样 1.2.5 梯度计算 一、卷积运算 1.1 数学卷积 1...

3. 深度学习基础 3. 深度学习基础 从本章开始，我们将探索深度学习的奥秘。作为机器学习的一类，深度学习通常基于神经网络模型逐级表示越来越抽象的概念或模式。我们先从线性回归和 softmax 回归这两种单层神经网络入手，简要介绍机器学习中的基本概念。然后，我们由单层神经网络延伸到多层神经网络，并通过多层感知机引入深度学习模型。在观察和了解了模型的过...

TransformerDecoderLayer TransformerDecoderLayer class paddle.nn. TransformerDecoderLayer ( d_model, nhead, dim_feedforward, dropout=0.1, activation=’relu’, attn_dropout=None, a...

TransformerDecoderLayer TransformerDecoderLayer class paddle.nn.TransformerDecoderLayer ( d_model, nhead, dim_feedforward, dropout=0.1, activation=’relu’, attn_dropout=None, a...

9.8. 区域卷积神经网络（R-CNN）系列 9.8.1. R-CNN 9.8.2. Fast R-CNN 9.8.3. Faster R-CNN 9.8.4. Mask R-CNN 9.8.5. 小结 9.8.6. 练习 9.8.7. 参考文献 9.8. 区域卷积神经网络（R-CNN）系列 区域卷积神经网络（region-based ...

9.8 区域卷积神经网络（R-CNN）系列 9.8.1 R-CNN 9.8.2 Fast R-CNN 9.8.3 Faster R-CNN 9.8.4 Mask R-CNN 小结 参考文献 9.8 区域卷积神经网络（R-CNN）系列 区域卷积神经网络（region-based CNN或regions with CNN features，R...

反向传播算法 反向传播算法 前向传播 forward propagation 过程： 当前馈神经网络接收输入 并产生输出 时，信息前向流动。 输入 提供初始信息，然后信息传播到每一层的隐单元，最终产生输出 。 反向传播算法back propagation 允许来自代价函数的信息通过网络反向流动以便计算梯度。 反向传播并不是用于学...

PyTorch 深度学习: 60 分钟极速入门 PyTorch 深度学习: 60 分钟极速入门 译者：bat67 校对者：FontTian 作者 ：Soumith Chintala 此教程的目标： 更高层次地理解PyTorch的Tensor库以及神经网络。 训练一个小的神经网络模型用于分类图像。 本教程假设读者对numpy 有...