R中的支持向量机特征选择示例

     2023-03-12     188

关键词:

【中文标题】R中的支持向量机特征选择示例【英文标题】:Example for svm feature selection in R 【发布时间】:2013-07-05 22:57:27 【问题描述】:

我正在尝试使用 R 包在 SVM 中应用特征选择(例如递归特征选择)。我已经安装了支持 LibSVM 中的特征选择的 Weka,但我还没有找到任何关于 SVM 或类似语法的示例。一个简短的例子会很有帮助。

【问题讨论】:

【参考方案1】:

caret 包中的函数rfe 为各种算法执行递归特征选择。这是来自caretdocumentation 的示例:

library(caret)
data(BloodBrain, package="caret")
x <- scale(bbbDescr[,-nearZeroVar(bbbDescr)])
x <- x[, -findCorrelation(cor(x), .8)]
x <- as.data.frame(x)
svmProfile <- rfe(x, logBBB,
                  sizes = c(2, 5, 10, 20),
                  rfeControl = rfeControl(functions = caretFuncs,
                                          number = 200),
                  ## pass options to train()
                  method = "svmRadial")

# Here's what your results look like (this can take some time)
> svmProfile

Recursive feature selection

Outer resampling method: Bootstrap (200 reps) 

Resampling performance over subset size:

  Variables   RMSE Rsquared  RMSESD RsquaredSD Selected
2 0.6106   0.4013 0.05581    0.08162         
5 0.5689   0.4777 0.05305    0.07665         
10 0.5510   0.5086 0.05253    0.07222         
20 0.5203   0.5628 0.04892    0.06721         
71 0.5202   0.5630 0.04911    0.06703        *

  The top 5 variables (out of 71):
  fpsa3, tcsa, prx, tcpa, most_positive_charge

【讨论】:

这里的sizes = c(2, 5, 10, 20) 是什么?这是否意味着特征 2、10 和 20? @Mahsolid 不,这是将使用的功能数量。 rfe 将尝试找到该向量中给定的每个大小的最佳模型。查看 rfe 文档了解更多详情。 @DavidMarx 感谢您的解释。 rfe()函数调用中的number = 200是什么意思?

如何选择特征并使用支持向量机算法进行训练?

】如何选择特征并使用支持向量机算法进行训练?【英文标题】:HowcanIselectthefeaturesandtrainwithsupportvectormachinealgorithms?【发布时间】:2021-04-2016:17:35【问题描述】:我有心脏数据集,其中包括年龄、性别、cp、trestbps、chol、fbs、ret... 查看详情

Python 中的支持向量机使用 libsvm 功能示例

】Python中的支持向量机使用libsvm功能示例【英文标题】:SupportvectormachineinPythonusinglibsvmexampleoffeatures【发布时间】:2015-09-0814:12:07【问题描述】:我已经刮了很多这样的ebay标题:AppleiPhone5White16GBDual-Core我已经以这种方式手动标记... 查看详情

支持向量机核函数

当我们要去判断一个非线性的区域,我们会选择用非线性函数来拟合。问题是 能不能选择别的特征变量 或者有没有比这些高阶项更好的特征变量 因为 我们并不知道 这些高阶项是不是我们真正需要的 我们... 查看详情

支持向量机

...的涨跌情况的算法。特征:在分类问题中,输入到分类器中的数据叫做特征。以上面的股票涨跌预测问题为例,特征就是前一天的交易量和收盘价。线性分类器:线性分类器是分类器中的一种,就是判定 查看详情

python中支持向量机分类器的替代方案?

】python中支持向量机分类器的替代方案?【英文标题】:Alternativetosupportvectormachineclassifierinpython?【发布时间】:2013-02-1702:53:27【问题描述】:我必须在155个图像特征向量之间进行比较。每个特征向量都有5个特征。我的图像分为1... 查看详情

svm支持向量机系列--线性支持向量机

1、主要内容  沿着之前学些机器学习基石课程中学习到的工具进行分析,该工具主要就是vc维,沿着特征转换这一目标进行探讨:    (1)、当数据的特征的数量很大时,如何进行特征转换?支撑向量机  (2)、能不能找到... 查看详情

支持向量机如何处理令人困惑的特征向量?

】支持向量机如何处理令人困惑的特征向量?【英文标题】:HowdoesSupportVectorMachinedealwithconfusingfeaturevectors?【发布时间】:2016-08-1711:10:15【问题描述】:假设我有以下特征向量:训练向量:第1类:[3,5,4,2,0,3,2],[33,50,44,22,0,33,20]第2... 查看详情

matlab中的支持向量机

】matlab中的支持向量机【英文标题】:supportvectormachinesinmatlab【发布时间】:2011-06-2523:32:37【问题描述】:您能否举一个在matlab中使用支持向量机(SVM)对4个类进行分类的示例,例如:atribute_1atribute_2atribute_3atribute_4class1234012350026410... 查看详情

支持向量机适用于训练集,但不适用于 R 中的测试集(使用 e1071)

】支持向量机适用于训练集,但不适用于R中的测试集(使用e1071)【英文标题】:SupportVectorMachineworksonTraining-setbutnotonTest-setinR(usinge1071)【发布时间】:2014-04-0415:35:36【问题描述】:我正在为我的文档分类任务使用支持向量机!... 查看详情

R 中的 SVM (e1071):赋予最近的数据更高的影响力(支持向量机的权重?)

】R中的SVM(e1071):赋予最近的数据更高的影响力(支持向量机的权重?)【英文标题】:SVMinR(e1071):Givemorerecentdatahigherinfluence(weightsforsupportvectormachine?)【发布时间】:2018-09-0422:38:14【问题描述】:我正在使用R中的e1071包中的支持... 查看详情

具有分类数据的一类支持向量机

...试训练一个机器学习模型来预测车辆控制器区域网络(CAN)中的异常消息。这个想法是有一个一类支持向量机(OCSVM),它将消息频率(Hz)作为一个特征,将消息ID作为另一个特征(ID是十六进制的),并为正常数据训练一个OCSVM, 查看详情

支持向量机

...,对线性不可分训练数据是不适用的,因为这时上述方法中的不等式约束并不能都成立,因此这时候需要将硬间隔最大化,使其变成软间隔最大化。假定给定特征空间上的训练数据集:T={(x1,y1),(x2,y2),...(xn,yn)},xi为第i个特征向量... 查看详情

支持向量机分类

】支持向量机分类【英文标题】:svmclassification【发布时间】:2011-07-0118:50:24【问题描述】:我是MATLAB的初学者,正在从事数字图像处理方面的编程项目,即使用小波特征+SVM+PCA+ANN的磁共振图像分类。我从MATLAB工具中执行了示例S... 查看详情

R 和 WEKA 上的支持向量机

...间】:2017-02-2407:39:08【问题描述】:我的数据使用e1071包中的R上的svm生成了奇怪的结果,因此我尝试检查Rsvm是否可以生成与WEKA(或python)相同的结果,因为我过去一直在使用WEKA。我用谷歌搜索了这个问题,发现一个与我有完全... 查看详情

功能目录。支持向量机的图像特征提取

】功能目录。支持向量机的图像特征提取【英文标题】:CatalogofFeatures.FeatureextractionfromimagesforSVM【发布时间】:2013-11-2008:31:46【问题描述】:我正在寻找用于在显微镜图像中分类细胞类型的可靠特征。我想知道最好的方法是什么... 查看详情

支持向量机算法之鸢尾花特征分类机器学习(代码片段)

一.前言1.1本文原理支持向量机(SVM)是一种二元分类模型。它的基本模型是在特征空间中定义最大区间的线性分类器,这使它不同于感知器;支持向量机还包括核技术,这使得它本质上是一个非线性分类器。支持向量机的学习... 查看详情

支持向量机算法之鸢尾花特征分类机器学习(代码片段)

一.前言1.1本文原理支持向量机(SVM)是一种二元分类模型。它的基本模型是在特征空间中定义最大区间的线性分类器,这使它不同于感知器;支持向量机还包括核技术,这使得它本质上是一个非线性分类器。支持向量机的学习... 查看详情

r语言e1071包中的支持向量机:构建nu-classification类型的支持向量机svm并分析不同nu值惩罚下模型分类螺旋线型(sprials)线性不可分数据集的表现

R语言e1071包中的支持向量机:构建nu-classification类型的支持向量机SVM并分析不同nu值惩罚下模型分类螺旋线型(sprials)线性不可分数据集的表现目录 查看详情