三、大数定律及中心极限定理 3.1 切比雪夫不等式 3.2 大数定理 3.3 中心极限定理 三、大数定律及中心极限定理 3.1 切比雪夫不等式 切比雪夫不等式：假设随机变量 具有期望 ， 方差 ，则对于任意正数 ，下面的不等式成立： 其意义是：对于距离 足够远的地方 （距离大于等于 ），事件出现的概率是小于等于 。即事件...

6.1 语言模型 6.1.1 语言模型的计算 6.1.2 元语法 小结 6.1 语言模型 语言模型（language model）是自然语言处理的重要技术。自然语言处理中最常见的数据是文本数据。我们可以把一段自然语言文本看作一段离散的时间序列。假设一段长度为 的文本中的词依次为 ，那么在离散的时间序列中， （ ）可看作在时间步（tim...

Deeplearning Algorithms tutorial 贝叶斯算法 Deeplearning Algorithms tutorial 谷歌的人工智能位于全球前列，在图像识别、语音识别、无人驾驶等技术上都已经落地。而百度实质意义上扛起了国内的人工智能的大旗，覆盖无人驾驶、智能助手、图像识别等许多层面。苹果业已开始全面拥抱机器学习，新产品进军...

六、模型讨论 六、模型讨论 pLSA 容易陷入过拟合。pLSA 认为： 文档-主题分布 不是随机变量，而是未知的常量。 主题-单词分布 也不是随机变量，也是未知的常量。 pLSA 通过拟合训练数据集来求解这些参数，这意味着这些参数只能表征当前的训练集的文档的特征。对于未知的文档，pLSA 认为它也符合训练集的文档特征。 事实上这...

Deeplearning Algorithms tutorial 贝叶斯网络 算法背景 算法应用 案例 优点 缺点 Deeplearning Algorithms tutorial 谷歌的人工智能位于全球前列，在图像识别、语音识别、无人驾驶等技术上都已经落地。而百度实质意义上扛起了国内的人工智能的大旗，覆盖无人驾驶、智能助手、图像识别等许...

一、隐马尔可夫模型HMM 1.1 基本概念 1.2 生成算法 一、隐马尔可夫模型HMM 隐马尔可夫模型（Hidden Markov model,HMM ）是可用于序列标注问题的统计学模型，描述了由隐马尔可夫链随机生成观察序列的过程，属于生成模型。 隐马尔可夫模型：隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测...

五、sentence-LDA 5.1 sentence-LDA 5.2 ASUM 五、sentence-LDA 5.1 sentence-LDA LDA 认为每个单词对应一个主题，但是针对短文本可能每句话表示一个主题，这就是Sentence-LDA 的基本假设。 Sentence-LDA 的文档生成过程： 根据参数为 的狄利...

三、MCMC 采样 3.1 MCMC 算法 3.2 Gibbs 算法 三、MCMC 采样 概率图模型中最常用的采样技术是马尔可夫链蒙特卡罗方法Markov Chain Monte Carlo:MCMC 。 给定连续随机变量 的概率密度函数 ，则 在区间 中的概率可以计算为： 如果函数 ， 则可以计算 的期望： 。 如果 ...

6.1. 语言模型 6.1.1. 语言模型的计算 6.1.2. n元语法 6.1.3. 小结 6.1.4. 练习 6.1. 语言模型 语言模型（languagemodel）是自然语言处理的重要技术。自然语言处理中最常见的数据是文本数据。我们可以把一段自然语言文本看作一段离散的时间序列。假设一段长度为 的文本中的词依次为 ，那么在离散的时...

核函数相关 kernel-smooth.regression 核函数概率密度回归 kernel-smooth.density 核函数概率密度分布 核函数相关 kernel-smooth.regression 核函数概率密度回归 用于画核函数概率密度回归曲线，支持单字段或者双字段。 具体用法见示例： dv . transform ({ ...