机器学习100天(十五):015逻辑回归基本原理

红色石头Will 红色石头Will     2023-01-06     183

关键词:

机器学习100天,今天讲的是:逻辑回归基本原理

一、线性回归与逻辑回归

我们之前介绍过线性回归,我们知道线性回归用于数值预测,例如房屋价格预测、信用卡额度预测等。线性回归最重要的一点就是它的预测值,即因变量一定是连续值,比如说房价。

而逻辑回归,它不是线性预测,而是一种线性分类算法。也就是说它的预测值,即因变量是离散的,要么是 1,要么是 0,是二分类。例如医生根据医疗图像判断某人是否患病、银行根据某人信用记录判断是否发放信用卡等等。

我们从图中来看一下。左边这张图是房价预测的例子。横坐标是人口,纵坐标是房价。线性回归做的事情就是找到一条直线能够最佳拟合房价与人口的线性关系。根据这个线性模型,我们就能根据已知的人口,直接预测房价了。右边这张图是某个商户统计用户的基本信息和他们是否购买了这个商品。横坐标是年龄 Age,纵坐标是收入 Income。这些分布的样本点,红色代表没有购买商品,绿色代表购买商品。这时候,我们可以使用一条直线来划分,例如这条。我们可以看到,在这条直线的上方表示购买商品的,直线的下方表示没有购买商品的。

通过对比,我们发现,线性回归和逻辑回归用到一条直线。只不过,线性回归的直线是用来拟合的,逻辑回归的直线是用来分类的。

二、逻辑回归模型

好,我们继续来看逻辑回归模型。

机器学习100天(十七):017逻辑回归梯度下降

机器学习100天,今天讲的是:逻辑回归-梯度下降!在讲解了逻辑回归的基本原理和损失函数之后,我们来推导逻辑回归模型中参数w和b的梯度表达式。我们之前介绍过,计算逻辑回归的代价函数实际上包含了下面三个过程:Z=WTX+... 查看详情

机器学习100天(十七):017逻辑回归梯度下降

机器学习100天,今天讲的是:逻辑回归-梯度下降!在讲解了逻辑回归的基本原理和损失函数之后,我们来推导逻辑回归模型中参数w和b的梯度表达式。我们之前介绍过,计算逻辑回归的代价函数实际上包含了下面三个过程:Z=WTX+... 查看详情

机器学习100天(十六):016逻辑回归损失函数

机器学习100天,今天讲的是:逻辑回归损失函数。一、如何找到最佳分类直线讲完了逻辑回归基本原理之后,我们再来思考一个非常关键的问题:就是如何找到最佳的分类直线呢?如图中所示,如何判断这三条直线哪个更好?线... 查看详情

机器学习100天(十六):016逻辑回归损失函数

机器学习100天,今天讲的是:逻辑回归损失函数。一、如何找到最佳分类直线讲完了逻辑回归基本原理之后,我们再来思考一个非常关键的问题:就是如何找到最佳的分类直线呢?如图中所示,如何判断这三条直线哪个更好?线... 查看详情

机器学习100天(十八):018逻辑回归python实战(代码片段)

机器学习100天,今天讲的是:逻辑回归Python实战。我们打开spyder。首先,导入标准库和数据集。#导入标准库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspd#导入数据集dataset=pd.read_csv(\'data.csv\')X=dataset.iloc[:, 查看详情

机器学习100天(十八):018逻辑回归python实战(代码片段)

机器学习100天,今天讲的是:逻辑回归Python实战。我们打开spyder。首先,导入标准库和数据集。#导入标准库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspd#导入数据集dataset=pd.read_csv(\'data.csv\')X=dataset.iloc[:, 查看详情

使用逻辑回归预测用户是否会购买suv

往期推荐机器学习100天学习计划—第1天数据预处理机器学习100天学习计划—第2天线性回归机器学习100天学习计划 —第3天 多元线性回归这是机器学习100天学习计划的第4天,我们将探讨逻辑回归存在的必要性、逻辑回归训... 查看详情

机器学习100天(三十五):035贝叶斯公式

《机器学习100天》完整目录:目录机器学习100天,今天讲的是:贝叶斯公式!好了,上一节介绍完先验概率、后验概率、联合概率、全概率后,我们来看这样一个问题:如果我现在挑到了一个瓜蒂脱落的瓜,则该瓜是好瓜的概率... 查看详情

机器学习100天(二十五):025l2正则化的python实现(代码片段)

机器学习100天,今天讲的是L2正则化的Python实现!《机器学习100天》完整目录:目录打开spyder,新建一个L2_reg.py脚本。首先导入标准库。#导入标准库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspd然后,为了方便。我们创造一批虚... 查看详情

机器学习100天(二十五):025l2正则化的python实现(代码片段)

机器学习100天,今天讲的是L2正则化的Python实现!《机器学习100天》完整目录:目录打开spyder,新建一个L2_reg.py脚本。首先导入标准库。#导入标准库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspd然后,为了方便。我们创造一批虚... 查看详情

哈工大2022机器学习实验二:逻辑回归

...辑回归逻辑回归,又意译为对率回归(周志华《机器学习》),虽然它的名字中带“回归”,但它是一个分类模型。它的基本思想是直接估计条件概率P(Y∣X)P 查看详情

机器学习100天(三十一):031k近邻回归算法

机器学习100天,今天讲的是:K近邻回归算法!《机器学习100天》完整目录:目录一、理论介绍我们之前讲了K近邻分类算法,用来处理分类问题。其实K近邻也可以用来处理回归问题。如左图所示,K近邻分类算法的思路是选取与... 查看详情

机器学习100天(三十一):031k近邻回归算法

机器学习100天,今天讲的是:K近邻回归算法!《机器学习100天》完整目录:目录一、理论介绍我们之前讲了K近邻分类算法,用来处理分类问题。其实K近邻也可以用来处理回归问题。如左图所示,K近邻分类算法的思路是选取与... 查看详情

机器学习100天(二十五):025l2正则化的python实现(代码片段)

机器学习100天,今天讲的是L2正则化的Python实现!《机器学习100天》完整目录:目录打开spyder,新建一个L2_reg.py脚本。首先导入标准库。#导入标准库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspd然后,为了方便。我们创造一批虚... 查看详情

机器学习100天:011回归模型评估指标

机器学习100天,今天讲的是:线性回归评估指标!一、哪个模型更好?我们之前已经对房价预测的问题构建了线性模型,并对测试集进行了预测。如图所示,横坐标是地区人口,纵坐标是房价,红色的点是实际样本分布。使用不... 查看详情

机器学习100天(十四):014梯度下降算法求解线性回归

机器学习100天,今天讲的是:使用梯度下降算法求解线性回归问题。一、梯度下降更新公式之前我们介绍了正规方程法直接求解线性回归问题,但是梯度下降算法在机器学习中更为常用,因为面对复杂问题时,梯度下降算法能够... 查看详情

机器学习100天(十四):014梯度下降算法求解线性回归

机器学习100天,今天讲的是:使用梯度下降算法求解线性回归问题。一、梯度下降更新公式之前我们介绍了正规方程法直接求解线性回归问题,但是梯度下降算法在机器学习中更为常用,因为面对复杂问题时,梯度下降算法能够... 查看详情

机器学习100天:009多项式回归理论

机器学习100天,今天讲的是:多项式回归理论!在前两期视频我们讲解了简单线性回归理论,并解决了一个房价预测的问题,建立了一个房价与地区人口的线性关系。然而,如果数据的分布不是简单的线性关系,又该怎么做呢?... 查看详情