• banner1
  • banner2
  • banner3
当前位置:主页 > 产品案例 >

AI产品经理必懂算法:k-近邻(KNN)算法

来源:http://www.gsdafu.com 责任编辑:www.k8.com 更新日期:2018-12-30 12:13

  作为想在AI领域长期发展的PM同学来说,对算法有一个初步、通识的了解是非常有必要的。今天我们就从一个最为简单、易懂的“k-近邻(KNN)算法”聊起,KNN属于监督学习算法,即可以用于分类,也可以用于回归,后续还会逐步为大家介绍一些常用的其他算法。

  作为想在AI领域长期发展的PM同学来说,对算法有一个初步、通识的了解是非常有必要的。

  我们之所以要了解算法,不仅仅有利于和算法同学的沟通,更能深入的理解人工智能为产品赋能的过程,只有将这个过程了解透彻,才能清晰明确的把握产品的方向,挖掘产品的亮点。

  那么,今天我们就从一个最为简单、易懂的“k-近邻(KNN)算法”聊起,KNN属于监督学习算法,即可以用于分类,也可以用于回归,后续还会逐步为大家介绍一些常用的其他算法。

  KNN的核心思想可以用一句俗语表达:“物以类聚、人以群分”,想了解一个人,可以看他交什么样的朋友。即它的核心思想是:如果一个样本在特征空间中的k个最相邻的样本(距离最近的样本)中的大多数属于某一个类别,则该样本也属于这个类别,并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。解密大数据时代下的LED新媒体营销

  这里面提及的距离,一般可以选用欧氏距离、曼哈顿距离、闵式距离等等公式进行计算,对于我们初步了解的产品经理来讲,就不上各种公式了。

  我们用这个图做一个简单的介绍,蓝色方形(用B标识)和红色三角(R)代表两个不同的分类,绿色圆形(C)是待分类样本,根据KNN的思想,如果K=3,则C的最近邻有1B、2R,根据少数服从多数原则,C应该属于“R”的类型。如果k=5呢?C的最近邻有3B、2R,C是不是应该属于“B”类型了呢?

  看到这儿,是不是有不少小伙伴产生了疑问,那该如何选择K值呢?K值的大小又将如何影响模型的效果呢?

  维护一个大小为k的的按距离由大到小的优先级队列,用于存储最近邻训练元组。随机从训练元组中选取k个元组作为初始的最近邻元组,分别计算测试元组到这k个元组的距离,732787中签号查询 新日股份股票!将训练元组标号和距离存入优先级队列;

  遍历训练元组集,计算当前训练元组与测试元组的距离,将所得距离L 与优先级队列中的最大距离Lmax

  进行比较。若L=Lmax,则舍弃该元组,遍历下一个元组。若L Lmax,删除优先级队列中最大距离的元组,将当前训练元组存入优先级队列。

  遍历完毕,计算优先级队列中k 个元组的多数类,并将其作为测试元组的类别。

  测试元组集测试完毕后计算误差率,继续设定不同的k值重新进行训练,最后取误差率最小的k 值。

  基本概念和训练过程我们都简单的介绍清楚了,下面来讲讲K近邻的优势及缺陷。

Copyright © 2013 www.k8.com,凯发娱乐网址,k8凯发,凯发手机娱乐官网 All Rights Reserved 网站地图