关键词：
转自@王萌，有少许修改。
机器学习起源于人工智能，可以赋予计算机以传统编程所无法实现的能力，比如飞行器的自动驾驶、人脸识别、计算机视觉和数据挖掘等。
机器学习的算法很多。很多时候困惑人们的是，很多算法是一类算法，而有些算法又是从其他算法中延伸出来的。这里，我们从两个方面来给大家介绍，第一个方面是学习的方式，第二个方面是算法的类似性。
学习方式
将算法按照学习方式分类可以让人们在建模和算法选择的时候考虑能根据输入数据来选择最合适的算法来获得最好的结果。
监督学习 
在监督学习中，输入数据被称为“训练数据”，每组训练数据有一个明确的类标。在建立预测模型的时候，监督学习建立一个学习过程，将预测结果与“训练数据”的实际结果进行比较，不断的调整预测模型，直到模型的预测结果达到一个预期的准确率。
监督式学习的常见应用场景如分类问题和回归问题。常见算法有Linear Regression，Logistic Regression，Neural Network，SVMs。
非监督学习 
在非监督学习中，数据并未被特别标识，学习模型是为了推断出数据的一些内在结构。
常见的应用场景包括关联规则的学习以及聚类等。常见算法包括K-means Clustering ，Principal Component Analysis和Anomaly Detection。
半监督学习 
在此学习方式下，输入数据部分被标识，部分没有被标识，这种学习模型可以用来进行预测，但是模型首先需要学习数据的内在结构以便合理的组织数据来进行预测。应用场景包括分类和回归，算法包括一些对常用监督式学习算法的延伸，这些算法首先试图对未标识数据进行建模，在此基础上再对标识的数据进行预测。如图论推理算法（Graph Inference）或者拉普拉斯支持向量机（Laplacian SVM.）等。
强化学习 
在强化学习（Reinforcement Learning）中，输入数据作为对模型的反馈，不像监督模型那样，输入数据仅仅是作为一个检查模型对错的方式。在强化学习中，输入数据直接反馈到模型，模型必须对此立刻作出调整。常见的应用场景包括动态系统以及机器人控制等。常见算法包括Q-Learning以及时间差学习（Temporal difference learning）。
在企业数据应用的场景下， 人们最常用的可能就是监督式学习和非监督式学习的模型。 在图像识别等领域，由于存在大量的非标识的数据和少量的可标识数据， 目前半监督式学习是一个很热的话题。 而强化学习更多的应用在机器人控制及其他需要进行系统控制的领域。
算法类似性
回归算法 
回归算法是试图采用对误差的衡量来探索变量之间的关系的一类算法。回归算法是统计机器学习的利器。在机器学习领域，人们说起回归，有时候是指一类问题，有时候是指一类算法，这一点常常会使初学者有所困惑。常见的回归算法包括：最小二乘法（Ordinary Least Square），逻辑回归（Logistic Regression），逐步式回归（Stepwise Regression），多元自适应回归样条（Multivariate Adaptive Regression Splines）以及本地散点平滑估计（Locally Estimated Scatterplot Smoothing）。
基于核的算法 
基于核的算法中最著名的莫过于支持向量机（SVM）了。 基于核的算法把输入数据映射到一个高阶的向量空间， 在这些高阶向量空间里， 有些分类或者回归问题能够更容易的解决。 常见的基于核的算法包括：支持向量机（Support Vector Machine， SVM）， 径向基函数（Radial Basis Function ，RBF)， 以及线性判别分析（Linear Discriminate Analysis ，LDA)等.
聚类算法 
聚类，就像回归一样，有时候人们描述的是一类问题，有时候描述的是一类算法。聚类算法通常按照中心点或者分层的方式对输入数据进行归并。所以的聚类算法都试图找到数据的内在结构，以便按照最大的共同点将数据进行归类。常见的聚类算法包括 k-Means算法以及期望最大化算法（Expectation Maximization， EM）。
降维算法 
像聚类算法一样，降低维度算法试图分析数据的内在结构，不过降低维度算法是以非监督学习的方式试图利用较少的信息来归纳或者解释数据。这类算法可以用于高维数据的可视化或者用来简化数据以便监督式学习使用。常见的算法包括：主成份分析（Principle Component Analysis， PCA），偏最小二乘回归（Partial Least Square Regression，PLS）。
集成学习算法 
集成算法用一些相对较弱的学习模型独立地就同样的样本进行训练，然后把结果整合起来进行整体预测。集成算法的主要难点在于究竟集成哪些独立的较弱的学习模型以及如何把学习结果整合起来。这是一类非常强大的算法，同时也非常流行。常见的算法包括：Boosting， Bootstrapped Aggregation（Bagging）， AdaBoost，随机森林（Random Forest）等。（竞赛中多用到该类算法，效果较好）
基于实例的算法 
基于实例的算法常常用来对决策问题建立模型，这样的模型常常先选取一批样本数据，然后根据某些近似性把新数据与样本数据进行比较。通过这种方式来寻找最佳的匹配。因此，基于实例的算法常常也被称为“赢家通吃”学习或者“基于记忆的学习”。常见的算法包括 k-Nearest Neighbor(KNN), 学习矢量量化（Learning Vector Quantization， LVQ），以及自组织映射算法（Self-Organizing Map ， SOM）.
决策树学习 
决策树算法根据数据的属性采用树状结构建立决策模型， 决策树模型常常用来解决分类和回归问题。常见的算法包括：分类及回归树（Classification And Regression Tree， CART）， ID3 (Iterative Dichotomiser 3)， C4.5， 随机森林（Random Forest）等。
贝叶斯方法 
贝叶斯方法算法是基于贝叶斯定理的一类算法，主要用来解决分类和回归问题。常见算法包括：朴素贝叶斯算法，以及Bayesian Belief Network（BBN）。
人工神经网络
人工神经网络算法模拟生物神经网络，是一类模式匹配算法。通常用于解决分类和回归问题。它是机器学习的一个庞大的分支。重要的人工神经网络算法包括：感知器神经网络（Perceptron Neural Network）, 反向传递（Back Propagation）， Hopfield网络，自组织映射（Self-Organizing Map, SOM）。（现在的深度学习就是由人工神经网络发展而来）
深度学习
常见的深度学习算法包括：受限波尔兹曼机（Restricted Boltzmann Machine， RBN）， Deep Belief Networks（DBN），卷积网络（Convolutional Network）, 堆栈式自动编码器（Stacked Auto-encoders）。（发展至目前，最成功的当属CNN和LSTM。）
机器学习算法分类
算法分类一： 有监督学习 无监督学习 半监督学习 算法分类二 分类与回归 聚类 标注 算法分类三 生成模型 （属于某类的概... 查看详情
机器学习算法分类
转自@王萌，有少许修改。机器学习起源于人工智能，可以赋予计算机以传统编程所无法实现的能力，比如飞行器的自动驾驶、人脸识别、计算机视觉和数据挖掘等。 机器学习的算法很多。很多时候困惑人们的是，很多算法... 查看详情
机器学习算法分类及其评估指标
机器学习的入门，我们需要的一些基本概念：机器学习的定义M.Mitchell《机器学习》中的定义是：对于某类任务T和性能度量P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么我们称这个计算机程序从经验E中... 查看详情
机器学习------分类
机器学习（一）------分类机器学习分类机器学习分为监督学习和无监督学习两类。监督学习是指在有标记的样本上建立机器学习的模型（这类算法知道预测什么，即目标变量的分类信息）。无监督学习恰恰相反，是指没有标记的... 查看详情
如何输出特征向量机器学习分类算法
】如何输出特征向量机器学习分类算法【英文标题】：howtooutputafeaturevectormachinelearningclassificationalgorithms【发布时间】：2013-03-2509:33:15【问题描述】：在传统的机器学习分类问题中，分类器接受输入特征向量并将其分类为预定类... 查看详情
机器学习：k-近邻分类
...展示出来。 K-近邻算法属于分类的一种，由之前机器学习简介中所介绍的，分类是需要一些样本数据来供算法进行学习，因此K-近邻分类算法也需要一些训练数据集。 首先我说一下K-近邻算法的思路：从字面上上看，... 查看详情
零基础学python--机器学习：机器学习算法和开发
@TOC一、机器学习算法分类1.分析1.2中的例子分类问题特征值：猫/狗的图片；目标值：猫/狗-类别分类问题↑回归问题特征值：房屋的各个属性信息；回归问题无监督学习特征值：人物的各个属性信息；目标值：无无监督学习2.总... 查看详情
机器学习九大算法---朴素贝叶斯分类器
机器学习九大算法---朴素贝叶斯分类器 搞懂朴素贝叶斯分类算贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单，也是常见的一种分类... 查看详情
转:机器学习算法原理解析-分类(代码片段)
...KNN概述K最近邻（k-NearestNeighbor，KNN）分类算法是最简单的机器学习算法。KNN算法的指导思想是“近 查看详情
使用机器学习算法进行词分类
】使用机器学习算法进行词分类【英文标题】：WordClassificationusingMachineLearningAlgorithm【发布时间】：2018-03-0514:49:19【问题描述】：我是机器学习的新手。我目前想要的是对某些单词是否属于某个类别进行分类..让我更具体地说，... 查看详情
机器学习11-分类与监督学习，朴素贝叶斯分类算法(代码片段)
1.理解分类与监督学习、聚类与无监督学习。简述分类与聚类的联系与区别。简述什么是监督学习与无监督学习。分类与聚类的区别：是否有已知分类的条件。分类没有，聚类有。监督学习：已知某些类别的情况下，即具有事先... 查看详情
361机器学习常见算法
K-近邻算法（KNearestNeighbors）参考：机器学习实战教程（一）：K-近邻算法（史诗级干货长文）决策树算法（DecisionTree）参考：机器学习实战教程（二）：决策树基础篇之让我们从相亲说起参考：机器学习实战教程（三）：决策树... 查看详情
机器学习十大算法
...有错误，还请指出。后续会继续补充实例及代码实现。3.机器学习算法概述3.1朴素贝叶斯分类器算法手动分类网页，文档，电子邮件或任何其他冗长的文本注释将是困难且实际上不可能的。这是朴素贝叶斯分类器机器学习算法来... 查看详情
机器学习算法学习---处理分类问题常用算法
k-近邻算法采用测量不同特征值之间的距离方法进行分类。优点：精度高、对异常值不敏感、无数据输入假定。缺点：计算复杂度高、空间复杂度高。适用范围：数值型、标称型。工作原理：存在一个样本数据集合（训练样本集... 查看详情
机器学习——11.分类与监督学习，朴素贝叶斯分类算法
1.理解分类与监督学习、聚类与无监督学习。简述分类与聚类的联系与区别。联系：都是对数据进行划分的方法区别：分类就是“贴标签”，在事先已有的类中按这些类的性质来进行划分，要做的就是将每一条记录分别属... 查看详情
机器学习机器学习分类算法--k近邻算法knn(下)(代码片段)
六、网格搜索与K邻近算法中更多的超参数七、数据归一化FeatureScaling解决方案：将所有的数据映射到同一尺度 八、scikit-learn中的Scalerpreprocessing.pyimportnumpyasnpclassStandardScaler:def__init__(self):self.mean_=None 查看详情
机器学习100天（二十六）：026k近邻分类算法-理论
机器学习100天，今天讲的是：K近邻分类算法-理论。《机器学习100天》完整目录：目录一、什么是K近邻算法K近邻算法也叫KNN(k-NearestNeighbor)算法，它是一个比较成熟也是最简单的机器学习算法之一。K近邻分类算法的思路是：如果... 查看详情
机器学习100天（二十六）：026k近邻分类算法-理论
机器学习100天，今天讲的是：K近邻分类算法-理论。《机器学习100天》完整目录：目录一、什么是K近邻算法K近邻算法也叫KNN(k-NearestNeighbor)算法，它是一个比较成熟也是最简单的机器学习算法之一。K近邻分类算法的思路是：如果... 查看详情