循环神经元 到目前为止，我们主要关注的是前馈神经网络，其中激活仅从输入层到输出层的一个方向流动（附录 E 中的几个网络除外）。 循环神经网络看起来非常像一个前馈神经网络，除了它也有连接指向后方。 让我们看一下最简单的 RNN，它由一个神经元接收输入，产生一个输出，并将输出发送回自己，如图 14-1（左）所示。 在每个时间步t （也称为一个帧），这个循环神...

隐藏层数量 对于许多问题，您只需从单个隐藏层开始，您将获得合理的结果。 实际上已经表明，只有一个隐藏层的 MLP 可以建模甚至最复杂的功能，只要它具有足够的神经元。 长期以来，这些事实说服了研究人员，没有必要调查任何更深层次的神经网络。 但是他们忽略了这样一个事实：深层网络具有比浅层网络更高的参数效率：他们可以使用比浅网格更少的神经元来建模复杂的函数，使...

简介 面向人群 食用方法 方法一 方法二 目录 原书地址 引用 本项目 将《动手学深度学习》 原书中MXNet代码实现改为PyTorch实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh 此书的中 英 ...

十、Normalization 10.1 batch normalization 10.1.1 白化 10.1.2 深层网络的参数更新 10.1.3 BN 算法 10.1.4 BN 内部原理 10.1.5 BN 性质 10.2 其它 normalization 10.2.1 layer normalization 10.2.2 instance...

深度学习 神经网络的基本概念 深度学习的发展历程 深度学习的研究和应用蓬勃发展 深度学习改变了AI应用的研发模式 实现了端到端的学习 实现了深度学习框架标准化 作业1-1 深度学习 机器学习算法理论在上个世纪90年代发展成熟，在许多领域都取得了成功应用。但平静的日子只延续到2010年左右，随着大数据的涌现和计算机算力提升，深度学习模型异...

第五章 深度神经网络为何很难训练 （消失的恋人，哦不）消失的梯度问题 什么导致了消失的梯度问题？也就是在深度神经网络中的所谓的梯度不稳定性 练习 问题 在更加复杂网络中的不稳定梯度 深度学习其他的障碍 第五章 深度神经网络为何很难训练 假设你是一名工程师，接到一项从头开始设计计算机的任务。某天，你在工作室工作，设计逻辑电路，构建 门， ...

波士顿房价预测任务 构建波士顿房价预测任务的神经网络模型

文章链接：http://mp.weixin.qq.com/s?__biz=MzIxMjAzNDY5Mg==&mid=2650790932&idx=1&sn=10c8c5ee729d1fa200d2dd189f5edc38&chksm=8f4749ffb830c0e9a0efb8a6f944ba49c3419c995d8a07885f30afd3a07430...

实现我们的神经网络来分类数字 练习 练习 实现我们的神经网络来分类数字 好吧，现在让我们写一个学习怎么样识别手写数字的程序，使用随机梯度下降法和MNIST训练数据。我们需要做的第一件事情是获取MNIST数据。如果你是一个git 用户，那么你能够通过克隆这本书的代码仓库获得数据， git clone https://github.com/mnie...

深度学习在图像领域的应用 检测 1. 单一物体检测 2. 通用物体检测 分类 识别 1. 人脸识别 2. 文字识别 跟踪 1. 2. 分割 边缘检测 图像复原 1. 去雨 2. 去雾 3. 超分辨率 4.图像单反化 总结 参考资料 深度学习在图像领域的应用 随着深度学习近几年的火热发展，在计算机视觉，图像理解方向...