《机器学习实战》学习笔记——k近邻算法

关键词：

1.numpy中一些函数的用法学习

• shape()用法：

shape : tuple of ints

The elements of the shape tuple give the lengths of the corresponding array dimensions.。

　　shape返回一个元组，依次为各维度的长度。shape[0]:第一维长度,shape[1]:第二维长度。

　　

• tile()用法：

numpy.tile(A, reps)

Construct an array by repeating A the number of times given by reps.

If reps has length d, the result will have dimension of max(d, A.ndim).  （A.ndim表示A矩阵的维度）

If A.ndim < d, A is promoted to be d-dimensional by prepending new axes. So a shape (3,) array is promoted to (1, 3) for 2-D replication, or shape (1, 1, 3) for 3-D replication. If this is not the desired behavior, promote A to d-dimensions manually before calling this function.

If A.ndim > d, reps is promoted to A.ndim by pre-pending 1’s to it. Thus for an A of shape (2, 3, 4, 5), a reps of (2, 2) is treated as (1, 1, 2, 2).

　　tile()用法理解有一点难度。假设reps=(2,3,3), 2、3、3分别代表在第一、二、三个维度的重复次数，通俗来说就是第一、二、三个中括号内的元素。若A的维度小于reps,则增加维度为3；若A的维度大于3(假设为4)，则默认reps=(1,2,3,3).

　　

• numpy.array()的切片

　　对于一维数组，切片用法与python相同；对于多维数组（矩阵）来说，A[x1,x2:x3,x4]中x1表示选取第一维度中的下标x1（矩阵就是第x1行），x2表示从第二个维度中下标为x2开始选取，如下：

　　

　　注意：x2不允许单独出现，即不能出现A[,x2:]，否则会报错。同理，x3表示行下标（第一维），x4表示列下标（第二维）。x3表示选取到哪一行为止（不包含x3），x4表示选取x4这一列。

　　   

• argsort()用法

　　numpy.argsort(a, axis=-1, kind=‘quicksort‘, order=None)

　　Returns the indices that would sort an array.

　　Perform an indirect sort along the given axis using the algorithm specified by the kind keyword. It returns an array of indices of the same shape as a that index data along the given axis in sorted order.

 　　返回一个数组由小到大排序之后的下标。axis表示要比较的维度，默认为最后一个维度。

　

2.python中的一些函数学习

　　reload()函数，需要从imp模块中引入:from imp import reload

　　在python3.x后raw_input()重命名为input()

　　os模块中listdir(),列出路径下所有文件名组成的一个列表。

3.代码分析（待补充）

 

《机器学习实战》读书笔记2：k-近邻(knn)算法

声明：文章是读书笔记，所以必然有大部分内容出自《机器学习实战》。外加个人的理解，另外修改了部分代码，并添加了注释1、什么是K-近邻算法？简单地说，k-近邻算法采用测量不同特征值之间距离的方法进行分类。不恰当... 查看详情

机器学习实战笔记-k近邻算法2(改进约会网站的配对效果)

案例二.：使用K-近邻算法改进约会网站的配对效果案例分析:海伦收集的数据集有三类特征，分别是每年获得的飞行常客里程数、玩视频游戏所耗时间百分比、每周消费的冰淇淋公升数。我们需要将新数据的每个新数据的每个特... 查看详情

机器学习实战笔记-k近邻算法3(手写识别系统)

1准备数据：将图像转换为测试向量这次数据集还是有两种，训练数据集和测试数据集，分别有2000个，900个。我们将把一个32*32的二进制图像矩阵转换为1x1024的向量，这样前两节使用的分类器就可以处理数字图像信息了。代码:defi... 查看详情

机器学习实战笔记-k近邻算法1（分类动作片与爱情片）

K近邻算法采用测量不同特征值之间的距离方法进行分类K近邻算法特点：优点：精度高、对异常值不敏感、无数据输入假定。缺点：计算复杂度高、空间复杂度高。适用数据范围：数值型和标称型。K近邻算法原理:存在一个样本... 查看详情

机器学习实战k-近邻算法

...tp://www.cnblogs.com/lighten/p/7593656.html 1.原理　　本章介绍机器学习实战的第一个算法——k近邻算法（k NearestNeighbor），也称为kNN。说到机器学习，一般都认为是很复杂，很高深的内容，但实际上其学习门栏并不算高，具备基... 查看详情

《机器学习实战》-k近邻算法(代码片段)

目录K-近邻算法k-近邻算法概述解析和导入数据使用Python导入数据实施kNN分类算法测试分类器使用k-近邻算法改进约会网站的配对效果收集数据准备数据：使用Python解析文本文件分析数据：使用Matplotlib画二维散点图准备数据：归... 查看详情

机器学习实战☛k-近邻算法（k-nearestneighbor，knn）(代码片段)

机器学习实战☛k-近邻算法（K-NearestNeighbor，KNN）文章目录机器学习实战☛k-近邻算法（K-NearestNeighbor，KNN）k-近邻算法概述原理简介k-近邻算法一般流程伪代码与实现示例：使用kNN改进约会网站的配对效... 查看详情

机器学习实战精读--------k-近邻算法

对机器学习实战的课本和代码进行精读，帮助自己进步。#coding:utf-8from numpy import *import operator #运算符模块from os import listdir  #os.listdir() 方法用于返回指定的文件夹包含的文件或文件夹的名字... 查看详情

机器学习实战之第二章k-近邻算法

第2章k-近邻算法KNN概述k-近邻（kNN,k-NearestNeighbor）算法主要是用来进行分类的.KNN场景电影可以按照题材分类，那么如何区分 动作片 和 爱情片 呢？动作片：打斗次数更多爱情片：亲吻次数更多基于电影中的亲吻、... 查看详情

机器学习实战k-近邻算法实施knn分类算法

2.预测数据分类时，出现‘dict’objecthasnoattribute‘iteritems‘如： 最常见的解决办法是更改环境变量顺序如 注意：哪个版本在上面，cmd中的python版本即是谁。如又如：  然后预测数据所在分类即可实现：  查看详情

机器学习实战之k近邻算法

k近邻算法概述简单地说,K近邻算法采用测量不同特征值之间的距离方法进行分类。优点:精度高、对异常值不敏感、无数据输入假定。缺点:计算复杂度高、空间复杂度高。适用数据范围:数值型和标称型。它的工作原理是:存在一... 查看详情

机器学习2—k近邻算法学习笔记

    Python3.6.3下修改代码中def classify0(inX,dataSet,labels,k)函数的classCount.iteritems()为classCount.items()，另外print在Python新版本下是函数，print后面需加上一对括号，否则执行会报错。第二章代码修改如下。fromnumpyimport*imp 查看详情

《机器学习实战》之k-近邻算法

看了这本书的第一个算法—k-近邻算法，这个算法总体构造思想是比较简单的，在ACM当中的话就对应了kd树这种结构。首先需要给定训练集，然后给出测试数据，求出训练集中与测试数据最相近的k个数据，根据这k个数据的属... 查看详情

机器学习实战task1（knn）k近邻算法的应用(代码片段)

...算法的简介k-近邻算法是属于一个非常有效且易于掌握的机器学习算法，简单的说就是采用测量不同特征值之间距离的方法对数据进行分类的一个算法。（2）k近邻算法的工作原理给定一个样本的集合，这里称为训... 查看详情

《机器学习实战》——k近邻算法

原理：(1)输入点A，输入已知分类的数据集data(2)求A与数据集中每个点的距离，归一化，并排序，选择距离最近的前K个点(3)K个点进行投票，票数最多的分类即为所求优点：简单，可用于非线性分类缺点：当样本不均衡时影响投票... 查看详情

机器学习实战ch02：k-近邻算法

k-近邻算法算是一个非常暴力也非常好理解的算法（抽象来讲，就是和谁长得像就分为哪一类如何划分长得像还是不像的尺度？把特征值当做坐标，把个体当做线性空间中的离散点，取k个离目标最近的训练集点，进行labelvote，少... 查看详情

机器学习实战---k-近邻(代码片段)

一：简单实现K-近邻算法（一）导入数据importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspddefCreateDataSet():data=np.array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]])labels=np.array([‘A‘,‘A‘,‘B‘,‘B‘])returndata,labelsda 查看详情

机器学习实战第2章k-近邻算法(k-nearestneighbor，knn)

第2章k-近邻算法<scripttype="text/javascript"src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=default"></script>KNN概述k-近邻（kNN,k-NearestNeighbor）算法主要是用来进行分类的.KNN场景电影可以按照题材分类，那么如何区分&nbs 查看详情