关键词:
import numpy as np import matplotlib.pyplot as plt from sklearn import datasets,ensemble from sklearn.model_selection import train_test_split def load_data_classification(): ‘‘‘ 加载用于分类问题的数据集 ‘‘‘ # 使用 scikit-learn 自带的 digits 数据集 digits=datasets.load_digits() # 分层采样拆分成训练集和测试集,测试集大小为原始数据集大小的 1/4 return train_test_split(digits.data,digits.target,test_size=0.25,random_state=0,stratify=digits.target) #集成学习AdaBoost算法分类模型 def test_AdaBoostClassifier(*data): ‘‘‘ 测试 AdaBoostClassifier 的用法,绘制 AdaBoostClassifier 的预测性能随基础分类器数量的影响 ‘‘‘ X_train,X_test,y_train,y_test=data clf=ensemble.AdaBoostClassifier(learning_rate=0.1) clf.fit(X_train,y_train) ## 绘图 fig=plt.figure() ax=fig.add_subplot(1,1,1) estimators_num=len(clf.estimators_) X=range(1,estimators_num+1) ax.plot(list(X),list(clf.staged_score(X_train,y_train)),label="Traing score") ax.plot(list(X),list(clf.staged_score(X_test,y_test)),label="Testing score") ax.set_xlabel("estimator num") ax.set_ylabel("score") ax.legend(loc="best") ax.set_title("AdaBoostClassifier") plt.show() # 获取分类数据 X_train,X_test,y_train,y_test=load_data_classification() # 调用 test_AdaBoostClassifier test_AdaBoostClassifier(X_train,X_test,y_train,y_test)
def test_AdaBoostClassifier_base_classifier(*data): ‘‘‘ 测试 AdaBoostClassifier 的预测性能随基础分类器数量和基础分类器的类型的影响 ‘‘‘ from sklearn.naive_bayes import GaussianNB X_train,X_test,y_train,y_test=data fig=plt.figure() ax=fig.add_subplot(2,1,1) ########### 默认的个体分类器 ############# clf=ensemble.AdaBoostClassifier(learning_rate=0.1) clf.fit(X_train,y_train) ## 绘图 estimators_num=len(clf.estimators_) X=range(1,estimators_num+1) ax.plot(list(X),list(clf.staged_score(X_train,y_train)),label="Traing score") ax.plot(list(X),list(clf.staged_score(X_test,y_test)),label="Testing score") ax.set_xlabel("estimator num") ax.set_ylabel("score") ax.legend(loc="lower right") ax.set_ylim(0,1) ax.set_title("AdaBoostClassifier with Decision Tree") ####### Gaussian Naive Bayes 个体分类器 ######## ax=fig.add_subplot(2,1,2) clf=ensemble.AdaBoostClassifier(learning_rate=0.1,base_estimator=GaussianNB()) clf.fit(X_train,y_train) ## 绘图 estimators_num=len(clf.estimators_) X=range(1,estimators_num+1) ax.plot(list(X),list(clf.staged_score(X_train,y_train)),label="Traing score") ax.plot(list(X),list(clf.staged_score(X_test,y_test)),label="Testing score") ax.set_xlabel("estimator num") ax.set_ylabel("score") ax.legend(loc="lower right") ax.set_ylim(0,1) ax.set_title("AdaBoostClassifier with Gaussian Naive Bayes") plt.show() # 调用 test_AdaBoostClassifier_base_classifier test_AdaBoostClassifier_base_classifier(X_train,X_test,y_train,y_test)
def test_AdaBoostClassifier_learning_rate(*data): ‘‘‘ 测试 AdaBoostClassifier 的预测性能随学习率的影响 ‘‘‘ X_train,X_test,y_train,y_test=data learning_rates=np.linspace(0.01,1) fig=plt.figure() ax=fig.add_subplot(1,1,1) traing_scores=[] testing_scores=[] for learning_rate in learning_rates: clf=ensemble.AdaBoostClassifier(learning_rate=learning_rate,n_estimators=500) clf.fit(X_train,y_train) traing_scores.append(clf.score(X_train,y_train)) testing_scores.append(clf.score(X_test,y_test)) ax.plot(learning_rates,traing_scores,label="Traing score") ax.plot(learning_rates,testing_scores,label="Testing score") ax.set_xlabel("learning rate") ax.set_ylabel("score") ax.legend(loc="best") ax.set_title("AdaBoostClassifier") plt.show() # 调用 test_AdaBoostClassifier_learning_rate test_AdaBoostClassifier_learning_rate(X_train,X_test,y_train,y_test)
def test_AdaBoostClassifier_algorithm(*data): ‘‘‘ 测试 AdaBoostClassifier 的预测性能随学习率和 algorithm 参数的影响 ‘‘‘ X_train,X_test,y_train,y_test=data algorithms=[‘SAMME.R‘,‘SAMME‘] fig=plt.figure() learning_rates=[0.05,0.1,0.5,0.9] for i,learning_rate in enumerate(learning_rates): ax=fig.add_subplot(2,2,i+1) for i ,algorithm in enumerate(algorithms): clf=ensemble.AdaBoostClassifier(learning_rate=learning_rate,algorithm=algorithm) clf.fit(X_train,y_train) ## 绘图 estimators_num=len(clf.estimators_) X=range(1,estimators_num+1) ax.plot(list(X),list(clf.staged_score(X_train,y_train)),label="%s:Traing score"%algorithms[i]) ax.plot(list(X),list(clf.staged_score(X_test,y_test)),label="%s:Testing score"%algorithms[i]) ax.set_xlabel("estimator num") ax.set_ylabel("score") ax.legend(loc="lower right") ax.set_title("learing rate:%f"%learning_rate) fig.suptitle("AdaBoostClassifier") plt.show() # 调用 test_AdaBoostClassifier_algorithm test_AdaBoostClassifier_algorithm(X_train,X_test,y_train,y_test)
吴裕雄python机器学习——集成学习随机森林randomforestclassifier分类模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,ensemblefromsklearn.model_selectionimporttrain_test_splitdefload_data_classification():‘‘‘加载用于分类问题的数据集‘‘‘#使用scikit-learn自带的digits数据 查看详情
吴裕雄python机器学习——集成学习随机森林randomforestregressor回归模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,ensemblefromsklearn.model_selectionimporttrain_test_splitdefload_data_regression():‘‘‘加载用于回归问题的数据集‘‘‘#使用scikit-learn自带的一个糖尿病病人的数据集d 查看详情
吴裕雄python机器学习——集成学习梯度提升决策树gradientboostingclassifier分类模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,ensemblefromsklearn.model_selectionimporttrain_test_splitdefload_data_classification():‘‘‘加载用于分类问题的数据集‘‘‘#使用scikit-learn自带的digits数据 查看详情
吴裕雄python机器学习——集成学习梯度提升决策树gradientboostingregressor回归模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,ensemblefromsklearn.model_selectionimporttrain_test_splitdefload_data_regression():‘‘‘加载用于回归问题的数据集‘‘‘#使用scikit-learn自带的一个糖尿病病人的数据集d 查看详情
吴裕雄python机器学习——聚类(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearn.datasets.samples_generatorimportmake_blobsdefcreate_data(centers,num=100,std=0.7):‘‘‘生成用于聚类的数据集:paramcenters:聚类的中心点组成的数组。如果中心点是二维的,则产生的每个样本都是二维的。 查看详情
吴裕雄python机器学习——模型选择分类问题性能度量(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearn.svmimportSVCfromsklearn.datasetsimportload_irisfromsklearn.preprocessingimportlabel_binarizefromsklearn.multiclassimportOneVsRestClassifierfromsk 查看详情
吴裕雄python机器学习——人工神经网络感知机学习算法的应用(代码片段)
importnumpyasnpfrommatplotlibimportpyplotaspltfromsklearnimportneighbors,datasetsfrommatplotlib.colorsimportListedColormapfromsklearn.neural_networkimportMLPClassifier##加载数据集np.random.seed(0)#使用scikit 查看详情
吴裕雄python机器学习——k均值聚类kmeans模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportclusterfromsklearn.metricsimportadjusted_rand_scorefromsklearn.datasets.samples_generatorimportmake_blobsdefcreate_data(centers,num=100,std= 查看详情
吴裕雄python机器学习——模型选择参数优化随机搜索寻优randomizedsearchcv模型(代码片段)
importscipyfromsklearn.datasetsimportload_digitsfromsklearn.metricsimportclassification_reportfromsklearn.linear_modelimportLogisticRegressionfromsklearn.model_selectionimporttrain_test_splitfromsklea 查看详情
吴裕雄python机器学习——模型选择参数优化暴力搜索寻优gridsearchcv模型(代码片段)
importscipyfromsklearn.datasetsimportload_digitsfromsklearn.metricsimportclassification_reportfromsklearn.linear_modelimportLogisticRegressionfromsklearn.model_selectionimporttrain_test_splitfromsklea 查看详情
吴裕雄python机器学习——模型选择回归问题性能度量(代码片段)
fromsklearn.metricsimportmean_absolute_error,mean_squared_error#模型选择回归问题性能度量mean_absolute_error模型deftest_mean_absolute_error():y_true=[1,1,1,1,1,2,2,2,0,0]y_pred=[0,0,0,1,1,1,0,0,0,0]print("MeanAbsolu 查看详情
吴裕雄python机器学习——模型选择损失函数模型(代码片段)
fromsklearn.metricsimportzero_one_loss,log_lossdeftest_zero_one_loss():y_true=[1,1,1,1,1,0,0,0,0,0]y_pred=[0,0,0,1,1,1,1,1,0,0]print("zero_one_loss<fraction>:",zero_one_loss(y_true,y_pred,normal 查看详情
吴裕雄python机器学习——支持向量机非线性回归svr模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,linear_model,svmfromsklearn.model_selectionimporttrain_test_splitdefload_data_regression():‘‘‘加载用于回归问题的数据集‘‘‘diabetes=datasets.load 查看详情
吴裕雄python机器学习——人工神经网络与原始感知机模型(代码片段)
importnumpyasnpfrommatplotlibimportpyplotaspltfrommpl_toolkits.mplot3dimportAxes3Dfromsklearn.neural_networkimportMLPClassifierdefcreat_data(n):‘‘‘创建线性可分数据集:paramn:正例样本的个数(同时也是负例样本的个数):return:返回一个线性可分 查看详情
吴裕雄python机器学习——支持向量机svm非线性分类svc模型(代码片段)
importnumpyasnpimportmatplotlib.pyplotaspltfromsklearnimportdatasets,linear_model,svmfromsklearn.model_selectionimporttrain_test_splitdefload_data_classfication():‘‘‘加载用于分类问题的数据集‘‘‘#使用scikit-learn自带的i 查看详情
吴裕雄--天生自然android开发学习:下载安装androidstuio集成开发工具(代码片段)
下载链接:https://developer.android.google.cn/index.html 查看详情
吴裕雄:人工智能技术(代码片段)
简介: 勤劳朴实、熟悉掌握数据挖掘、机器学习、深度学习、hadoop系统搭建,有智能医疗大数据、企业画像等项目工作经验,有较强的组织及协调能力和抗压能力,工作中可以独挡一面,具备开发人工智能产品的潜力。主修... 查看详情
吴裕雄--天生自然python3开发学习:基础语法(代码片段)
#!/usr/bin/python3#第一个注释print("Hello,Python!")#第二个注释#!/usr/bin/python3#第一个注释#第二个注释‘‘‘第三注释第四注释‘‘‘"""第五注释第六注释"""print("Hello,Python!")ifTrue:print("True")else:print("False")ifTrue:print("Answer")print(" 查看详情