多层感知器与反向传播 MLP 由一个（通过）输入层、一个或多个称为隐藏层的 LTU 组成，一个最终层 LTU 称为输出层（见图 10-7）。除了输出层之外的每一层包括偏置神经元，并且全连接到下一层。当人工神经网络有两个或多个隐含层时，称为深度神经网络（DNN）。 多年来，研究人员努力寻找一种训练 MLP 的方法，但没有成功。但在 1986，D. E...

十、Normalization 10.1 batch normalization 10.1.1 白化 10.1.2 深层网络的参数更新 10.1.3 BN 算法 10.1.4 BN 内部原理 10.1.5 BN 性质 10.2 其它 normalization 10.2.1 layer normalization 10.2.2 instance...

5、路线图 这本书分为两个部分。 第一部分，机器学习的基础知识，涵盖以下主题： 什么是机器学习？它被试图用来解决什么问题？机器学习系统的主要类别和基本概念是什么？ 典型的机器学习项目中的主要步骤。 通过拟合数据来学习模型。 优化成本函数（cost function）。 处理，清洗和准备数据。 选择和设计特征。 使用交叉验证选择一个模型并调整超参数。...

深度学习 神经网络的基本概念 深度学习的发展历程 深度学习的研究和应用蓬勃发展 深度学习改变了AI应用的研发模式 实现了端到端的学习 实现了深度学习框架标准化 作业1-1 深度学习 机器学习算法理论在上个世纪90年代发展成熟，在许多领域都取得了成功应用。但平静的日子只延续到2010年左右，随着大数据的涌现和计算机算力提升，深度学习模型异...

构造阶段 开始吧。 首先我们需要导入tensorflow 库。 然后我们必须指定输入和输出的数量，并设置每个层中隐藏的神经元数量： import tensorflow as tf n_inputs = 28 * 28 # MNIST n_hidden1 = 300 n_hidden2 = 100 n_out...

「 Neural Networks and Deep Learning 」中文翻译（连载完毕） 简介 译者注 Lisence 「 Neural Networks and Deep Learning 」中文翻译（连载完毕） 简介 《神经网络与深度学习》是一本免费的在线电子书。本书主要介绍以下内容： 神经网络，一种启发自生物学的优美的编程范...

5.5 深度学习 5.5 深度学习 理论上，参数越多，模型复杂度就越高，容量（capability）就越大，从而能完成更复杂的学习任务。深度学习（deep learning）正是一种极其复杂而强大的模型。 怎么增大模型复杂度呢？两个办法，一是增加隐层的数目，二是增加隐层神经元的数目。前者更有效一些，因为它不仅增加了功能神经元的数量，还增加了激活...

如何决定是否使用你所有的数据 如何决定是否使用你所有的数据 假设你的猫咪检测器的训练集包括 10000 张用户上传的图片，这些数据来自相同的数据分布且将作为单独的开发/测试集，同时也代表着你关心的将要处理的数据分布。你还从互联网下载了额外的 20000 张图片。此时你是否应该为你的学习算法提供所有的 20000 + 10000 张图片作为它的训练集，...

交叉熵代价函数 交叉熵代价函数简介 练习 练习 交叉熵代价函数 大多数人都会对犯错感到不愉快。在我刚学钢琴不久时，我将要在观众面前进行我的第一场表演。我当时很紧张，把一个八度弹奏低了。我卡住了，直到别人指出我的错误后，我才得以继续弹奏。我当时非常尴尬。尽管犯错时很不愉快，但是我们能够从明显的错误中学到东西。你能猜到在我下次弹奏的时候会把这个八度...