反向传播：整体描述 反向传播：整体描述 正如我之前所阐述的，反向传播涉及了两个谜题。第一个谜题是，这个算法究竟在做什么？我们之前的描述是将错误量从输出层反向传播。但是，我们是否能够更加深入，对这些矩阵、向量的乘法背后作出更加符合直觉的解释？第二个谜题是，人们一开始是如何发现反向传播算法的？按照算法流程一步步走下来，或者证明算法的正确性，这是一回事。但...

Layers Basic manipulations and resize module [source] class Identity [source] class Lambda [source] class PartialLambda [source] class Flatten [source] class V...

五、分子指纹GCN 5.1 模型 5.1.1 圆形指纹算法 5.1.2 分子指纹GCN算法 5.1.3 限制 5.2 实验 5.2.1 随机权重 5.2.2 可解释性 5.2.3 模型比较 五、分子指纹GCN 在材料设计领域的最新工作已经将神经网络用于材料筛选，其任务是通过学习样本来预测新型分子的特性。预测分子特性通常需要将分子图作...

常用层 Dense层 参数： 输入 输出 Activation层 参数 输入shape 输出shape 参数 参考文献 Flatten层 例子 Reshape层 参数 输入shape 输出shape 例子 Permute层 参数 例子 输入shape 输出shape RepeatVector层 参数 输入shap...

重计算：大Batch训练特性 背景 原理 使用方法 Q&A 重计算：大Batch训练特性 背景 随着训练数据规模的逐渐增加，训练更大、更深的深度学习模型成为一个主流趋势。目前的深度学习模型训练，通常要求保留前向计算的隐层结果，并且需要保存结果的数量会随着模型层数的增加线性增加，这对于目前能够使用的AI芯片的内存大小是个挑战。Forward...

Deeplearning Algorithms tutorial BP神经网络 算法描述 Deeplearning Algorithms tutorial 谷歌的人工智能位于全球前列，在图像识别、语音识别、无人驾驶等技术上都已经落地。而百度实质意义上扛起了国内的人工智能的大旗，覆盖无人驾驶、智能助手、图像识别等许多层面。苹果业已开始全面拥抱机器学...

一、基础 1.1 基本概念 1.2 特征学习 1.3 训练 1.4 示例 一、基础 1.1 基本概念 深度前馈网络的目标是近似某个函数 。 分类器 将输入 映射到它的真实类别 ，其中 是真实的映射函数。 深度前馈网络定义另一个映射 ，并且学习参数 从而使得 是 的最佳近似。 深度前馈网络之所以称作前馈的（feed...

循环神经网络RNN和长短时记忆网络LSTM 循环神经网络RNN 长短时记忆网络LSTM 使用LSTM完成情感分析任务 循环神经网络RNN和长短时记忆网络LSTM 循环神经网络RNN 循环神经网络（Recurrent Neural Network，RNN）是一个非常经典的面向序列的模型，可以对自然语言句子或是其他时序信号进行建模，RN...

使用协同过滤实现电影推荐 一、介绍 二、 环境设置 三、数据集 3.1 数据处理 3.2 准备训练和验证数据 四、模型组网 五、模型训练 六、模型评估 七、模型预测 使用协同过滤实现电影推荐 作者： HUANGCHENGAI 日期： 2021.05摘要： 本案例使用飞桨框架实现推荐电影的协同过滤算法。 一、介绍 此示例演...

第三章 改进神经网络的学习方法（下） 权重初始化 练习 问题 再看手写识别问题：代码 问题 如何选择神经网络的超参数 问题 练习 练习 其他技术 随机梯度下降的变种 练习 问题 人工神经元的其他模型 练习 有关神经网络的故事 第三章 改进神经网络的学习方法（下） 权重初始化 创建了神经网络后，我们需要进行权重和偏...