Deeplearning Algorithms tutorial

谷歌的人工智能位于全球前列，在图像识别、语音识别、无人驾驶等技术上都已经落地。而百度实质意义上扛起了国内的人工智能的大旗，覆盖无人驾驶、智能助手、图像识别等许多层面。苹果业已开始全面拥抱机器学习，新产品进军家庭智能音箱并打造工作站级别Mac。另外，腾讯的深度学习平台Mariana已支持了微信语音识别的语音输入法、语音开放平台、长按语音消息转文本等产品，在微信图像识别中开始应用。全球前十大科技公司全部发力人工智能理论研究和应用的实现，虽然入门艰难，但是一旦入门，高手也就在你的不远处！ AI的开发离不开算法那我们就接下来开始学习算法吧！

平均单依赖估计量（Averaged One-Dependence Estimators）

平均单依赖估计量（Averaged One-Dependence Estimators）是一种半朴素贝叶斯学习方法。它通过聚合多个单依赖分类器的预测来执行分类，其中所有属性依赖于相同的单独父属性以及类。它的开发旨在解决流行的朴素贝叶斯分类器的属性独立性问题。它常常以计算量适度增加为代价，比朴素贝叶斯开发出更准确的分类器。 像朴素贝叶斯一样，AODE不执行模型选择，也不使用可调参数。因此，它具有较低的方差。

它支持增量学习，通过这些学习，分类器可以通过新示例提供的信息进行有效更新。它预测类别概率，而不是简单地预测单个类别，从而允许用户确定每个分类的可信度。其概率模型可以直接处理某些数据丢失的情况。为了保持效率，可以期望利用单依赖分类器，诸如树扩展型朴素贝叶斯分类器,Tree Augmented Naive Bayes(TAN)，其中每个属性取决于类和至多一个其他属性。然而，大多数单依赖分类器学习的方法执行模型选择，这个过程通常会带来相当大的计算开销并且相对于朴素贝叶斯大大增加了方差。

AODE通过对多个单依赖分类器的预测进行平均来避免模型选择。在每个单依赖分类器中，选择一个属性作为所有其他属性的父属性。该属性称为SuperParent，这种单依赖性分类器称为SuperParent单依赖性估计器（SPODE）。

AODE具有计算复杂性 O（ln ^2）在训练时间和 O（kn^2)在分类时刻，其中n是特征的数量，l是训练样本的数量，k是类别的数量。这使得应用于高维数据是不可行的。然而，在这个限制内，它与训练样例的数量成线性关系，因此可以有效地处理大量的训练样例。

由于AODE在避免模型选择的同时，比朴素贝叶斯更弱的属性条件独立性假设，它的偏差大大降低，方差增加很小。