本次将介绍一个机器学习算法：k-近邻算法，它非常有效而易于握。

我们将探讨如使用距离测量的方法分类。

k-近邻算法

• 优点：精度高、对异常值不敏感、无数据输入假定。
• 缺点：计算复杂度高、空间复杂度高。
• 适用数据范围：数值型和标称型。

前言：

我们大多数人都看过电影是吧，有的人喜欢看爱情片，有的人喜欢看动作片。那么由谁来定义这些影片的类型呢？

有人统计过爱情片和动作中出现的打斗镜头和接吻镜头，如图所示：

很明显的可以看出爱情片倾向于接吻镜头，而动作片倾向于打斗镜头，那要我把未知类型的影片归类，很显然我会选择爱情片的。

我们再来看看各影片与未知影片的距离，如图所示：

现在我们得到了样本中所有影片与未知影片的距离，可以看到距离最近的三个都是爱情片，因此我们也可以判定未知影片为爱情片。

接下来我们用代码来演示

代码如下：

createDataSet()方法：

• 创建一个数组以及对应的标签

classifier()方法：

• inX: 用于分类的输入数组
• dataSet: 输入训练集
• labels: 标签数组
• k: 选择最近邻居数目

计算部分

第15行：首先我们看到shape()方法，它返回的是数组的维数

第16行：tile()方法的作用是把数组按照给定的方向延伸到一定的维数，再进行减法运算

第17行：数组中的每个元素都进行平方运算

第18行：sum()方法计算数组中每一行元素的和

第19行：开方，如：4**0.5=2.0

ps: 这无非就是大家中学都学过的两点间距离公式，我也就不多废话了

排序部分

第20行：argsort()方法是把数组中元素由小到大对应的索引排列，如：

([5, 8, 4, 6, 1]) 的排序结果为 ([4, 2, 0, 3, 1])，索引为 4 的值最小，也就是 1

第21行：创建一个字典用于存放标签

第22~23行：数组和标签建立映射，即group数组中的第0个元素的计算结果对应的lables为A，而第3个元素的计

算结果对应lables为B

第24行：对标签的出现次数计数，setdefault() 设置字典默认key，若为空则设为0，否则加1

第25行：用sorted()方法来排序，reverse=True则此为逆序

为校验代码功能的准确性，因此，我们用 [[10,90],[80,10],[50,10]] 这组数据来做下简单的测试

运行效果如下：

不出所料，打斗镜头多的被归类为 B 即动作片，而接吻镜头多的则为 A 即爱情片！

本文参考于《Machine Learning in Action》

怕什么真理无穷，得一寸有一寸的欢喜，共勉！

各位看官，需要源码的私信便是哦，也顺手来波关注嘛！

作者也在学习当中，难免会有错漏的地方，恳请读者能给予意见或建议，谢谢！转载请注明出处，谢谢！