关键词:
来自 http://blog.csdn.net/jasonding1354/article/details/46340729
内容概要
- 如何使用pandas读入数据
- 如何使用seaborn进行数据的可视化
- scikit-learn的线性回归模型和使用方法
- 线性回归模型的评估测度
- 特征选择的方法
作为有监督学习,分类问题是预测类别结果,而回归问题是预测一个连续的结果。
import pandas as pd
# read csv file directly from a URL and save the results
data = pd.read_csv(‘http://www-bcf.usc.edu/~gareth/ISL/Advertising.csv‘, index_col=0)
# display the first 5 rows
data.head()
上面显示的结果类似一个电子表格,这个结构称为Pandas的数据帧(data frame)。
pandas的两个主要数据结构:Series和DataFrame:
- Series类似于一维数组,它有一组数据以及一组与之相关的数据标签(即索引)组成。
- DataFrame是一个表格型的数据结构,它含有一组有序的列,每列可以是不同的值类型。DataFrame既有行索引也有列索引,它可以被看做由Series组成的字典。
# display the last 5 rows
data.tail()
# check the shape of the DataFrame(rows, colums)
data.shape
特征:
- TV:对于一个给定市场中单一产品,用于电视上的广告费用(以千为单位)
- Radio:在广播媒体上投资的广告费用
- Newspaper:用于报纸媒体的广告费用
响应:
- Sales:对应产品的销量
在这个案例中,我们通过不同的广告投入,预测产品销量。因为响应变量是一个连续的值,所以这个问题是一个回归问题。数据集一共有200个观测值,每一组观测对应一个市场的情况。
import seaborn as sns
%matplotlib inline
# visualize the relationship between the features and the response using scatterplots
sns.pairplot(data, x_vars=[‘TV‘,‘Radio‘,‘Newspaper‘], y_vars=‘Sales‘, size=7, aspect=0.8)
seaborn的pairplot函数绘制X的每一维度和对应Y的散点图。通过设置size和aspect参数来调节显示的大小和比例。可以从图中看出,TV特征和销量是有比较强的线性关系的,而Radio和Sales线性关系弱一些,Newspaper和Sales线性关系更弱。通过加入一个参数kind=’reg’,seaborn可以添加一条最佳拟合直线和95%的置信带。
sns.pairplot(data, x_vars=[‘TV‘,‘Radio‘,‘Newspaper‘], y_vars=‘Sales‘, size=7, aspect=0.8, kind=‘reg‘)
线性模型表达式: y=β0+β1x1+β2x2+...+βnxn 其中
- y是响应
- β0是截距
- β1是x1的系数,以此类推
在这个案例中: y=β0+β1∗TV+β2∗Radio+...+βn∗Newspaper
# create a python list of feature names
feature_cols = [‘TV‘, ‘Radio‘, ‘Newspaper‘]
# use the list to select a subset of the original DataFrame
X = data[feature_cols]
# equivalent command to do this in one line
X = data[[‘TV‘, ‘Radio‘, ‘Newspaper‘]]
# print the first 5 rows
X.head()
# check the type and shape of X
print type(X)
print X.shape
# select a Series from the DataFrame
y = data[‘Sales‘]
# equivalent command that works if there are no spaces in the column name
y = data.Sales
# print the first 5 values
y.head()
print type(y)
print y.shape
from sklearn.cross_validation import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=1)
# default split is 75% for training and 25% for testing
print X_train.shape
print y_train.shape
print X_test.shape
print y_test.shape
from sklearn.linear_model import LinearRegression
linreg = LinearRegression()
linreg.fit(X_train, y_train)
print linreg.intercept_
print linreg.coef_
# pair the feature names with the coefficients
zip(feature_cols, linreg.coef_)
y=2.88+0.0466∗TV+0.179∗Radio+0.00345∗Newspaper
如何解释各个特征对应的系数的意义?
- 对于给定了Radio和Newspaper的广告投入,如果在TV广告上每多投入1个单位,对应销量将增加0.0466个单位
- 更明确一点,加入其它两个媒体投入固定,在TV广告上没增加1000美元(因为单位是1000美元),销量将增加46.6(因为单位是1000)
y_pred = linreg.predict(X_test)
下面介绍三种常用的针对回归问题的评价测度
# define true and predicted response values
true = [100, 50, 30, 20]
pred = [90, 50, 50, 30]
(1)平均绝对误差(Mean Absolute Error, MAE)
1n∑ni=1|yi−yi^|
(2)均方误差(Mean Squared Error, MSE)
1n∑ni=1(yi−yi^)2
(3)均方根误差(Root Mean Squared Error, RMSE)
1n∑ni=1(yi−yi^)2−−−−−−−−−−−−−√
from sklearn import metrics
import numpy as np
# calculate MAE by hand
print "MAE by hand:",(10 + 0 + 20 + 10)/4.
# calculate MAE using scikit-learn
print "MAE:",metrics.mean_absolute_error(true, pred)
# calculate MSE by hand
print "MSE by hand:",(10**2 + 0**2 + 20**2 + 10**2)/4.
# calculate MSE using scikit-learn
print "MSE:",metrics.mean_squared_error(true, pred)
# calculate RMSE by hand
print "RMSE by hand:",np.sqrt((10**2 + 0**2 + 20**2 + 10**2)/4.)
# calculate RMSE using scikit-learn
print "RMSE:",np.sqrt(metrics.mean_squared_error(true, pred))
print np.sqrt(metrics.mean_squared_error(y_test, y_pred))
feature_cols = [‘TV‘, ‘Radio‘]
X = data[feature_cols]
y = data.Sales
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=1)
linreg.fit(X_train, y_train)
y_pred = linreg.predict(X_test)
print np.sqrt(metrics.mean_squared_error(y_test, y_pred))
我们将Newspaper这个特征移除之后,得到RMSE变小了,说明Newspaper特征不适合作为预测销量的特征,于是,我们得到了新的模型。我们还可以通过不同的特征组合得到新的模型,看看最终的误差是如何的。
转载请注明:人人都是数据咖 » scikit-learn的线性回归模型
使用 scikit-learn 训练线性回归模型后,如何对原始数据集中不存在的新数据点进行预测?
】使用scikit-learn训练线性回归模型后,如何对原始数据集中不存在的新数据点进行预测?【英文标题】:AftertrainingtheLinearRegressionmodelusingscikit-learn,Howtodopredictionsfornewdatapointswhicharenotthereinoriginaldataset?【发布时间】:2021-03-3001:30:35... 查看详情
R 与 scikit-learn 中用于线性回归 R2 的交叉验证
】R与scikit-learn中用于线性回归R2的交叉验证【英文标题】:CrossvalidationinRvsscikit-learnforlinearregressionR2【发布时间】:2020-04-0612:26:07【问题描述】:我有一个简单的线性回归模型:Y=平均能量,X=A+B我的数据集仅包含23行。因此,为... 查看详情
在 python 中使用 scikit-learn 线性回归模型时出错
】在python中使用scikit-learn线性回归模型时出错【英文标题】:errorinusingscikit-learnlinearregressionmodelinpython【发布时间】:2015-12-1406:17:38【问题描述】:我正在使用python和ipythonnotebook在此scikit-learnpage上开发LinearRegression模型。我拥有... 查看详情
机器学习系列6使用scikit-learn构建回归模型:简单线性回归多项式回归与多元线性回归(代码片段)
本文所用数据均可免费下载ps:1万多字写了四天,累死我了;如有错别字请评论告诉我。创作不易,恳请四联🥰课前测验目录一、内容介绍二、理论实践1.学习准备①数据准备②运行环境2.提出问题3.线性回归概念... 查看详情
statsmodel OLS 和 scikit-learn 线性回归之间的区别
】statsmodelOLS和scikit-learn线性回归之间的区别【英文标题】:DifferencebetweenstatsmodelOLSandscikit-learnlinearregression【发布时间】:2022-01-0123:43:44【问题描述】:我尝试用iris数据集练习线性回归模型。fromsklearnimportdatasetsimportseabornassnsimpor... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
用scikit-learn和pandas学习线性回归
...鞋,这里给出一个完整的例子,详细学完这个例子,对用scikit-learn来运行线性回归,评估模型不会有什么问题了。1.获取数据,定义问题 没有数据,当然没法研究机器学习啦。:)这里我们用UCI大学公开的机器学习数据来... 查看详情
一元线性回归
...格、成本评估等,都可以用一元线性模型,本节主要讲解scikit-learn一元线性回归的使用以及作图说明。y=f(x)叫做一元函数,回归的意思就是根据已知数据复原某些值,线性回归(regression)就是用线性的模型做回归复原。那么一元线... 查看详情
在 Scikit-Learn 中获得线性回归的大交叉验证分数
】在Scikit-Learn中获得线性回归的大交叉验证分数【英文标题】:Gettinglargecross-validationscoresforLinearRegressioninScikit-Learn【发布时间】:2018-12-0406:57:01【问题描述】:我已经清理并准备了一个数据集,以4种不同的回归类型建模-线性、... 查看详情
[机器学习与scikit-learn-21]:算法-逻辑回归-多项式非线性回归polynomialfeatures与代码实现(代码片段)
...;https://blog.csdn.net/HiWangWenBing/article/details/123447272目录第1章scikit-learn对逻辑回归的支持第2章PolynomialFeatures 类参数详解2.1PolynomialFeatures 这个类有3个参数:2.2代码演示第3章回归代码实现案例第1章scikit-learn对逻辑回归的支持sciki... 查看详情
sklearn:稀疏数据的回归模型?
...edata?【发布时间】:2015-06-1013:17:32【问题描述】:python的scikit-learn有没有可以很好地处理稀疏数据的回归模型?我四处寻找,发现this“稀疏线性回归”模块,但它似乎已经过时了。(我认为scikit-learn在当时被称为“scikits-learn”... 查看详情
Python/Scikit-learn - 线性回归 - 访问线性回归方程
】Python/Scikit-learn-线性回归-访问线性回归方程【英文标题】:Python/Scikit-learn-LinearRegression-AccesstoLinearRegressionEquation【发布时间】:2016-05-1002:56:36【问题描述】:我使用同一组预测变量构建了几个不同的线性回归,如下所示:model=... 查看详情
scikit-learn线性回归算法库小结
scikit-learn对于线性回归提供了比较多的类库,这些类库都可以用来做线性回归分析,本文就对这些类库的使用做一个总结,重点讲述这些线性回归算法库的不同和各自的使用场景。 线性回归的目的是要得到输出向量YY... 查看详情
scikit-learn 中的线性回归
】scikit-learn中的线性回归【英文标题】:Linearregressioninscikit-learn【发布时间】:2019-05-1421:43:53【问题描述】:我开始使用Pandas和Sklearn在Python上学习机加工学习。我尝试使用LinearRegression().fit方法:importnumpyasnpimportpandasaspdimportmatplo... 查看详情