K

引用自  github , 

概述:

  k-近邻(kNN, k-NearestNeighbor)算法是一种基本分类与回归方法,我们这里只讨论分类问题中的 k-近邻算法。

原理:

  1. 假设有一个带有标签的样本数据集(训练样本集),其中包含每条数据与所属分类的对应关系。

  2. 输入没有标签的新数据后,将新数据的每个特征与样本集中数据对应的特征进行比较。

    1. 计算新数据与样本数据集中每条数据的距离。
    2. 求得的所有距离进行排序(从小到大,越小表示越相似)。
    3. 前 k (k 一般小于等于 20 )个样本数据对应的分类标签。

  3. 求 k 个数据中出现次数最多的分类标签作为新数据的分类。