规模驱动机器学习发展 规模驱动机器学习发展 关于深度学习（神经网络）的一些想法在几十年前就有了，那为什么它们到现在才流行起来了呢？ 推动其近期发展的主要因素有两个： 数据可用性（data availability） ：如今人们在数字设备（笔记本电脑、移动设备等）上花费的时间越来越多，对应的数字化行为与活动产生了海量的数据，而这些数据都可以提供给...

综述 面向机器学习初学者的 MNIST 初级教程 面向机器学习专家的 MNIST 高级教程 TensorFlow 使用指南 卷积神经网络 单词的向量表示 循环神经网络 (Recurrent Neural Network, 简称 RNN) 序列到序列模型 (Sequence-to-Sequence Model) Mandelbrot 集合 偏微...

深度学习 神经网络的基本概念 深度学习的发展历程 深度学习的研究和应用蓬勃发展 深度学习改变了AI应用的研发模式 实现了端到端的学习 实现了深度学习框架标准化 作业1-1 深度学习 机器学习算法理论在上个世纪90年代发展成熟，在许多领域都取得了成功应用。但平静的日子只延续到2010年左右，随着大数据的涌现和计算机算力提升，深度学习模型异...

十、人工神经网络介绍 十、人工神经网络介绍 鸟类启发我们飞翔，牛蒡植物启发了尼龙绳，大自然也激发了许多其他发明。从逻辑上看，大脑是如何构建智能机器的灵感。这是启发人工神经网络（ANN）的关键思想。然而，尽管飞机受到鸟类的启发，但它们不必拍动翅膀。同样的，ANN 逐渐变得与他们的生物表兄弟有很大的不同。一些研究者甚至争辩说，我们应该完全放弃生物类比（例...

常用软件 1）oh my zsh是我最习惯的shell，终端下非常好用 配合iterm2分屏 + spectacle全屏，几乎无敌 2）brew是mac装软件非常好的方式，和apt-get、rpm等都非常类似 安装4个必备软件 brew install git 最流行的SCM源码版本控制软件 brew install wget 下载、扒站神...

用简单的神经网络识别手写数字 练习 用简单的神经网络识别手写数字 定义了神经网络之后，让我们回到手写数字识别的问题上来。我们可以把手写数字识别问题拆分为两个子问题。首先，我们要找到一种方法能够把一张包含若干数字的图像分割为若干小图片，其中每个小图像只包含一个数字。举个例子，我们想将下面的图像 分割为6张小图像 我们人类能够很容易地解决这...

10.9. 编码器—解码器（seq2seq） 10.9.1. 编码器 10.9.2. 解码器 10.9.3. 训练模型 10.9.4. 小结 10.9.5. 练习 10.9.6. 参考文献 10.9. 编码器—解码器（seq2seq） 我们已经在前两节中表征并变换了不定长的输入序列。但在自然语言处理的很多应用中，输入和输出都可以是不定长序...

女神 女神 前面说过，小法师再也不准备看魔法了 朱熹说：“适可而止，无贪心也。”小法师心理打算的是好的，打不起躲得嘛 生活往往就是那么有趣或者说残忍道德经有云：“天之道，损有余而补不足，人之道则不然，损不足而奉有余”俗话说“趁你病，要你命” 继被魔法羞辱之后，墨菲法则开始显现它的威力——小法师的女神也不理他了 事情是这样的： 前...

Deeplearning Algorithms tutorial 机器学习步骤框架 机器学习 深度学习 机器学习算法概览 算法模型 机器学习的基础 参考书籍 机器学习 License Deeplearning Algorithms tutorial 最近以来一直在学习机器学习和算法，然后自己就在不断总结和写笔记，记...

稀疏自编码器 通常良好特征提取的另一种约束是稀疏性：通过向损失函数添加适当的项，自编码器被推动以减少编码层中活动神经元的数量。 例如，它可能被推到编码层中平均只有 5% 的显着活跃的神经元。 这迫使自编码器将每个输入表示为少量激活的组合。 因此，编码层中的每个神经元通常都会代表一个有用的特征（如果您每个月只能说几个字，您可能会试着让它们值得一听）。 为...