k-means聚类算法 登山式算法 误差平方和（SSE） k-means++ k-means聚类算法 使用k-means算法时需要指定分类的数量，这也是算法名称中“k”的由来。 k-means是Lloyd博士在1957年提出的，虽然这个算法已有50年的历史，但却是当前最流行的聚类算法！ 下面让我们来了解一下k-means聚类过程：...

排序算法比较和选择 计算复杂度比较 系统资源占用比较 稳定度比较 如何选择排序法 排序算法比较和选择 排序算法有不少，当然，一般的语言中都提供某个排序函数，比如Python中，对list进行排序，可以使用sorted（或者list.sort()），关于这方面的使用，在我的github代码库algorithm中有几个举例，有兴趣的看官可以去那里...

狄克斯特拉算法 狄克斯特拉算法 #include <stdio.h> #define MAXVEX 100 #define INF 32767 void Dijkstra ( int cost [][ MAXVEX ], int n , int v ) { int dist [ MAXVEX ...

算法复杂度主方法 一、复杂度主方法 二、举例 算法复杂度主方法 有时候，我们要评估一个算法的复杂度，但是算法被分散为几个递归的子问题，这样评估起来很难，有一个数学公式可以很快地评估出来。 一、复杂度主方法 主方法，也可以叫主定理。对于那些用分治法，有递推关系式的算法，可以很快求出其复杂度。 定义如下： 如果对证明感兴趣的可以翻阅书籍：《...

线程调度之 Round Robin 算法 线程调度之 Round Robin 算法 代码 时间片轮转调度算法(Round Robin)的基本思想是让每个线程在就绪队列中的等待时间与占用 CPU 的执行时间成正比例。其大致实现是： 将系所有的就绪线程按照 FCFS 原则，排成一个就绪队列。 每次调度时将 CPU 分派（dispatch）给队首...

5.3 BP神经网络算法 5.3 BP神经网络算法 由上面可以得知：神经网络的学习主要蕴含在权重和阈值中，多层网络使用上面简单感知机的权重调整规则显然不够用了，BP神经网络算法即误差逆传播算法（error BackPropagation）正是为学习多层前馈神经网络而设计，BP神经网络算法是迄今为止最成功的的神经网络学习算法。 一般而言，只需包含...

概述 前提条件 设置学习率 学习率的主流优化算 作业 2-3 概述 上一节我们明确了分类任务的损失函数（优化目标）的相关概念和实现方法，本节我们依旧横向展开"横纵式"教学法，如 图1 所示，本节主要探讨在手写数字识别任务中，使得损失达到最小的参数取值的实现方法。 图1：“横纵式”教学法 — 优化算法 前提条件 在优...

有4压缩很任性 zstd新压缩算法 我们有妹子!!! 有4压缩很任性 TokuDB有着出色的压缩特性，这不是”盖”的： RDS上有个InnoDB实例，1天的数据将近700GB空间，换成TokuDB后(默认zlib压缩)，同样的700GB可以保存５天的数据，业务读写性能也无任何影响，空间成本直线下降。 为什么TokuDB的压缩这么给力？ 因为To...

八、优化策略和元算法 8.1 坐标下降 8.2 Polyak 平均 8.3 贪心监督预训练 8.4 选择有助于优化的模型 8.5 连续方法 八、优化策略和元算法 有些优化技术并不是真正的算法，而是一个模板：它可以产生特定的算法。 8.1 坐标下降 最小化 可以采取如下的步骤： 先相对于单一变量 最小化。 然后相对于另一个变...

4.密钥交换算法 4.密钥交换算法 ECDH即ECC算法和DH结合使用，用于密钥磋商。交换双方可以在不共享任何秘密的情况下协商出一个密钥。ECC是建立在基于椭圆曲线的离散对数问题上的密码体制，给定椭圆曲线上的一个点P，一个整数k，求解Q=kP 很容易；给定一个点P、Q，知道Q=kP ，求整数k却是一个难题。ECDH即建立在此数学难题之上。 同时Hy...