十、Normalization 10.1 batch normalization 10.1.1 白化 10.1.2 深层网络的参数更新 10.1.3 BN 算法 10.1.4 BN 内部原理 10.1.5 BN 性质 10.2 其它 normalization 10.2.1 layer normalization 10.2.2 instance...

0.深度学习简介 1.深度前馈神经网络 2.反向传播算法 3.正则化 4.最优化基础 5.卷积神经网络 5.1.CNN之图片分类 6.循环神经网络 7.Transformer 8.词向量 9.传统 CTR 预估模型 10.神经网络 CTR 预估模型 11.Graph Embedding 12.Graph Embedding(续) ...

10.11 注意力机制 10.11.1 计算背景变量 10.11.1.1 矢量化计算 10.11.2 更新隐藏状态 10.11.3 发展 小结 参考文献 10.11 注意力机制 在10.9节（编码器—解码器（seq2seq））里，解码器在各个时间步依赖相同的背景变量来获取输入序列信息。当编码器为循环神经网络时，背景变量来自它最终时间步的隐...

3.31 学习包管理器 3.31 学习包管理器 包管理器或包管理系统是一组软件集合的工具，它可以通过一致的方式自动执行安装，更新，配置以及移除计算机操作系统软件包的过程。它通常维护了一个软件依赖和版本信息的数据库，以防止软件无法匹配和丢失前置依赖。 — 维基百科 基础学习： JavaScript包管理器工作原理介绍 [阅读] ...

二、Android模拟器连接 1. 前言 2. mumu模拟器连接示例 1）开启 允许USB调试 设置 2）在模拟器中手动安装上 Yosemite.apk 3）在IDE中连接mumu模拟器 3. 市面常见模拟器连接端口汇总 4. 连接Android原生模拟器(AVD) 1）安装Android环境： 2）创建模拟器： 3）在AirtestID...

神经元的逻辑计算 Warren McCulloch 和 Pitts 提出一个非常简单的生物神经元模型，这后来作为一个人工神经元成为众所周知：它有一个或更多的二进制（ON/OFF）输入和一个二进制输出。当超过一定数量的输入是激活时，人工神经元会激活其输出。McCulloch 和 Pitts 表明，即使用这样一个简化的模型，也有可能建立一个人工神经元网络来计...

七、DeepFM 7.1 模型 7.2 实验 七、DeepFM 理解用户点击行为背后隐藏的交叉特征对于 CTR 预估非常重要。例如，对 app store 的研究表明：人们经常在用餐时间下载送餐 app 。这说明：app 类别和时间戳构成的交叉特征可以作为 CTR 预估的信号。 通常用户点击行为背后的特征之间的各种交互非常复杂，其中的...

交叉熵代价函数 交叉熵代价函数简介 练习 练习 交叉熵代价函数 大多数人都会对犯错感到不愉快。在我刚学钢琴不久时，我将要在观众面前进行我的第一场表演。我当时很紧张，把一个八度弹奏低了。我卡住了，直到别人指出我的错误后，我才得以继续弹奏。我当时非常尴尬。尽管犯错时很不愉快，但是我们能够从明显的错误中学到东西。你能猜到在我下次弹奏的时候会把这个八度...

神经网络 定义网络 损失函数 反向传播 更新权重 神经网络 译者：@小王子 校对者：@李子文 神经网络可以使用 torch.nn 包构建. autograd 实现了反向传播功能, 但是直接用来写深度学习的代码在很多情况下还是稍显复杂, torch.nn 是专门为神经网络设计的模块化接口. nn 构建于 Autograd...

机器翻译 说明 背景介绍 效果展示 模型概览 GRU 双向循环神经网络 编码器-解码器框架 编码器 解码器 注意力机制 柱搜索算法 数据介绍 数据预处理 示例数据 模型配置说明 训练模型 定义数据生成器 构建训练程序 定义训练环境 训练主循环 应用模型 构建预测程序 定义预测环境 测试 总结 参考文献 ...