AdaGrad 再次考虑细长碗的问题：梯度下降从最陡峭的斜坡快速下降，然后缓慢地下到谷底。 如果算法能够早期检测到这个问题并且纠正它的方向来指向全局最优点，那将是非常好的。 AdaGrad 算法通过沿着最陡的维度缩小梯度向量来实现这一点（见公式 11-6）： 第一步将梯度的平方累加到矢量s 中（⊗ 符号表示单元乘法）。 这个向量化形式相当于向量s...

金庸的武侠世界 准备工作 小说概览 出场人物 寻找主角光环 Word2Vec 中文分词 训练模型 相似度结果 人物聚类分析 KMeans 层级聚类 门派和武功 总结 金庸的武侠世界 金庸老爷子一共写了15部武侠小说，它们分别是： 《飞狐外传》（1960年） 《雪山飞狐》（1959年） 《连城诀》（1963年） 《天龙八部》...

PyTorch for former Torch users PyTorch for former Torch users 译者：@unknown 校对者：@bringtree Author : Soumith Chintala 在本教程中, 你将学习到以下内容: 使用 torch Tensors, 它和 (Lua)Torch 有...

dropout dropout paddle.fluid.layers. dropout ( x, dropout_prob, is_test=False, seed=None, name=None, dropout_implementation=’downgrade_in_infer’ ) [源代码] dropout操作 丢弃或者保持x的每个...

rnn rnn 注意：该API仅支持【静态图】模式 paddle.fluid.layers. rnn (cell, inputs, initial_states=None, sequence_length=None, time_major=False, is_reverse=False, **kwargs)[源代码] rnn创建一个由R...

备胎 备胎 女神对于小法师的打击，远远超出了小法师的想象这样一来，上次的阵亡，反而如浮云一样了 金代诗人元好问有云： 问世间情为何物，直教人生死相许？——《摸鱼儿·雁丘词》 小法师是个重感情的孩纸，当年还在法师学院时，喜欢一个女孩，苦苦追求3年，在女孩生日买好礼物楼下等待时，发现女孩和一个挫男比翼双飞 人都有幻灭的时刻，苦情三年...

LayerNorm 参数 返回 代码示例 LayerNorm class paddle.fluid.dygraph.LayerNorm (normalized_shape, scale=True, shift=True, begin_norm_axis=1, epsilon=1e-05, param_attr=None, bias_attr=N...

layer_norm layer_norm 注意：该API仅支持【静态图】模式 paddle.fluid.layers. layer_norm (input, scale=True, shift=True, begin_norm_axis=1, epsilon=1e-05, param_attr=None, bias_attr=None, ac...

rnn rnn paddle.fluid.layers. rnn ( cell, inputs, initial_states=None, sequence_length=None, time_major=False, is_reverse=False, **kwargs ) [源代码] rnn创建一个由RNNCell cell 指定的递归神经...