数字识别 说明: 背景介绍 模型概览 Softmax回归(Softmax Regression) 多层感知机(Multilayer Perceptron, MLP) 卷积神经网络(Convolutional Neural Network, CNN) 卷积层 池化层 常见激活函数介绍 数据介绍 Fluid API 概述 配置说明 Pro...

深度学习经典卷积神经网络 1. VGG 2. GoogLeNet 3. Resnet 4. MobileNet-V1 & MobileNet -V2 5. U-NET 6. GAN 深度学习经典卷积神经网络 随着深度学习的发展，研究人员提出了很多模型，这其中一些设计方式，在当时取得了很好的效果，也为其他科研工作者提供了很好的思路。CNN ...

Deeplearning Algorithms tutorial 机器学习步骤框架 机器学习 深度学习 机器学习算法概览 算法模型 机器学习的基础 参考书籍 机器学习 License Deeplearning Algorithms tutorial 最近以来一直在学习机器学习和算法，然后自己就在不断总结和写笔记，记...

非饱和激活函数 Glorot 和 Bengio 在 2010 年的论文中的一个见解是，消失/爆炸的梯度问题部分是由于激活函数的选择不好造成的。 在那之前，大多数人都认为，如果大自然选择在生物神经元中使用 sigmoid 激活函数，它们必定是一个很好的选择。 但事实证明，其他激活函数在深度神经网络中表现得更好，特别是 ReLU 激活函数，主要是因为它对正值...

3.8 多层感知机 3.8.1 隐藏层 3.8.2 激活函数 3.8.2.1 ReLU函数 3.8.2.2 sigmoid函数 3.8.2.3 tanh函数 3.8.3 多层感知机 小结 3.8 多层感知机 我们已经介绍了包括线性回归和softmax回归在内的单层神经网络。然而深度学习主要关注多层模型。在本节中，我们将以多层感知机（mu...

3.8.3. 多层感知机 3.8.1. 隐藏层 3.8.2. 激活函数 3.8.2.1. ReLU函数 3.8.2.2. sigmoid函数 3.8.2.3. tanh函数 3.8.3. 多层感知机 3.8.4. 小结 3.8.5. 练习 3.8.3. 多层感知机 我们已经介绍了包括线性回归和softmax回归在内的单层神经网络。然而...

训练分类器 数据应该怎么办呢？ 训练一个图片分类器 1.加载并标准化CIFAR10 2.定义卷积神经网络 3.定义损失函数和优化器 4.训练网络 5.使用测试数据测试网络 在GPU上训练 在多GPU上训练 接下来要做什么？ 训练分类器 译者：bat67 校验者：FontTian 目前为止，我们以及看到了如何定义网络，...

训练分类器 数据应该怎么办呢？ 训练一个图片分类器 1.加载并标准化CIFAR10 2.定义卷积神经网络 3.定义损失函数和优化器 4.训练网络 5.使用测试数据测试网络 在GPU上训练 在多GPU上训练 接下来要做什么？ 训练分类器 译者：bat67 校对者：FontTian 目前为止，我们以及看到了如何定义网络，...

长时训练的困难 在训练长序列的 RNN 模型时，那么就需要把 RNN 在时间维度上展开成很深的神经网络。正如任何深度神经网络一样，其面临着梯度消失/爆炸的问题，使训练无法终止或收敛。 很多之前讨论过的缓解这种问题的技巧都可以应用在深度展开的 RNN 网络：好的参数初始化方式，非饱和的激活函数（如 ReLU），批量规范化（Batch Normalizat...

入门介绍 神经元 感知机（perceptron） 反向传播——BackPropagation 前向传播 反向传播 入门介绍 神经元 神经元是神经网络中最基本的结构，也可以说是神经网络的基本单元，它的设计灵感完全来源于生物学上神经元的信息传播机制。我们学过生物的同学都知道，神经元有两种状态：兴奋和抑制。一般情况下，大多数的神经元是处于...