如何使用libsvm进行分类 libsvm 输出 分类概率

如何使用libsvm进行分类


这帖子就是初步教教刚接触libsvm(svm)的同学如何利用libsvm进行分类预测,关于参数寻优的问题在这里姑且不谈,另有帖子详述。

其实使用libsvm进行分类很简单,只需要有属性矩阵和标签,然后就可以建立分类模型(model),然后利用得到的这个model进行分类预测了。

那神马是属性矩阵?神马又是标签呢?我举一个直白的不能在直白的例子:
说一个班级里面有两个男生(男生1、男生2),两个女生(女生1、女生2),其中
男生1 身高:176cm 体重:70kg;
男生2 身高:180cm 体重:80kg;

女生1 身高:161cm 体重:45kg;
女生2 身高:163cm 体重:47kg;

如果我们将男生定义为1,女生定义为-1,并将上面的数据放入矩阵data中,即
  1. data = [176 70;
  2. 180 80;
  3. 161 45;
  4. 163 47];
复制代码在label中存入男女生类别标签(1、-1),即
  1. label = [1;1;-1;-1];
复制代码这样上面的data矩阵就是一个属性矩阵,行数4代表有4个样本,列数2表示属性有两个,label就是标签(1、-1表示有两个类别:男生、女生)。

Remark:这里有一点废话一些(因为我看到不止一个朋友问我这个相关的问题):
上面我们将男生定义为1,女生定义为-1,那定义成别的有影响吗?
这个肯定没有影响啊!(
用脚趾头都能想出来,我不知道为什么也会有人问),这里面的标签定义就是区分开男生和女生,怎么定义都可以的,只要定义成数值型的就可以。
比如我可将将男生定义为2,女生定义为5;后面的label相应为label=[2;2;5;5];
比如我可将将男生定义为18,女生定义为22;后面的label相应为label=[18;18;22;22];

为什么我说这个用脚趾头都能想怎么定义都可以呢?学过数学的应该都会明白,将男生定义为1,女生定义为-1和将男生定义为2,女生定义为5本质是一样的,应为可以找到一个映射将(2,5)转换成(1,-1),so所以本质都是一样的,后面的18、22本质也是一样的。
这里要多说一些,如果你原本的数据集合的标签不是数值型的(比如a、b、c)那么你完全可以通过某种转换映射将不是数值型的标签转换成数值型的。


现在回归正题,有了上面的属性矩阵data,和标签label就可以利用libsvm建立分类模型了,简要代码如下:
  1. model =svmtrain(label,data);
复制代码有了model我们就可以做分类预测,比如此时该班级又转来一个新学生,其
身高190cm,体重85kg
我们想通过上面这些信息就给出其标签(想知道其是男【1】还是女【-1】)
比如 令 testdata = [190 85];由于其标签我们不知道,我们假设其标签为-1(也可以假设为1)
Remark:这里又有一点废话一些(因为我看到不止一个朋友问我这个相关的问题):
如果测试集合的标签没有怎么办?测试集合的标签就应该没有,否则测试集合的标签都有了,还预测你妹啊!?没有是正确的,就像上面一样,新来的学生其标签咱不应知道,就想通过其属性矩阵来预测其标签,这才是预测分类的真正目的。
之所以平时做测试时,测试集合的标签一般都有,那是因为一般人们想要看看自己的分类器的效果如何,效果的评价指标之一就是分类预测的准确率,这就需要有测试集的本来的真实的标签来进行分类预测准确率的计算。


话归正传,即
testdatalabel = -1;

然后利用libsvm来预测这个新来的学生是男生还是女生,代码如下:
  1. [predictlabel,accuracy] =svmpredict(testdatalabel,testdata,model)
复制代码下面我们整体运行一下上面这段恶搞[e gao]的背景数据和代码(你别笑,这个是真能运行的,也有结果的):
  1. data = [176 70;
  2. 180 80;
  3. 161 45;
  4. 163 47];
  5. label =[1;1;-1;-1];

  6. model =svmtrain(label,data);

  7. testdata = [19085];
  8. testdatalabel =-1;

  9. [predictlabel,accuracy] =svmpredict(testdatalabel,testdata,model);
  10. predictlabel
复制代码运行结果如下:
  1. Accuracy = 0% (0/1)(classification)
  2. predictlabel =
  3. 1
复制代码哎,我们看到,通过预测我们得知这个新来的学生的标签是1(男生),由于原本我们假设其标签为-1,假设错误,所以分类准确率为0%。


好,通过上面的讲解,不知道诸位看官对于利用libsvm进行分类是否有了一定了解【谁要是这么通俗的例子还搞不清楚怎么使用libsvm进行分类,那我真无语啦】,下面使用libsvm工具箱本身带的测试数据heart_scale来实际进行一下测试:
  1. %%HowToClassifyUsingLibsvm
  2. % by faruto @ faruto'sStudio~
  3. %http://blog.sina.com.cn/faruto
  4. %Email:faruto@163.com
  5. %http://www.matlabsky.com
  6. %http://www.mfun.la
  7. %http://video.ourmatlab.com
  8. % last modified by2010.12.27
  9. %% a litte cleanwork
  10. tic;
  11. close all;
  12. clear;
  13. clc;
  14. format compact;
  15. %%

  16. % 首先载入数据
  17. load heart_scale;
  18. data =heart_scale_inst;
  19. label =heart_scale_label;

  20. %选取前200个数据作为训练集合,后70个数据作为测试集合
  21. ind = 200;
  22. traindata =data(1:ind,:);
  23. trainlabel =label(1:ind,:);
  24. testdata =data(ind+1:end,:);
  25. testlabel =label(ind+1:end,:);

  26. % 利用训练集合建立分类模型
  27. model =svmtrain(trainlabel,traindata,'-s 0 -t 2 -c 1.2 -g 2.8');

  28. % 分类模型model解密
  29. model
  30. Parameters =model.Parameters
  31. Label =model.Label
  32. nr_class =model.nr_class
  33. totalSV =model.totalSV
  34. nSV =model.nSV

  35. %利用建立的模型看其在训练集合上的分类效果
  36. [ptrain,acctrain] =svmpredict(trainlabel,traindata,model);

  37. % 预测测试集合标签
  38. [ptest,acctest] =svmpredict(testlabel,testdata,model);

  39. %%
  40. toc;
复制代码运行结果:
  1. model=
  2. Parameters: [5x1 double]
  3. nr_class:2
  4. totalSV:197
  5. rho:0.0583
  6. Label: [2x1double]
  7. ProbA:[]
  8. ProbB:[]
  9. nSV: [2x1double]
  10. sv_coef:[197x1 double]
  11. SVs: [197x13double]
  12. Parameters =
  13. 0
  14. 2.0000
  15. 3.0000
  16. 2.8000
  17. 0
  18. Label =
  19. 1
  20. -1
  21. nr_class =
  22. 2
  23. totalSV =
  24. 197
  25. nSV =
  26. 89
  27. 108
  28. Accuracy = 99.5% (199/200)(classification)
  29. Accuracy = 68.5714% (48/70)(classification)
  30. Elapsed time is 0.040873seconds.
  31. >>
复制代码上面的代码基本我不想多说什么。
只是说一下参数输入的意义:
  -s svm类型:SVM设置类型(默认0)
  0 -- C-SVC
  1 --v-SVC
  2 – 一类SVM
  3 -- e -SVR
  4 -- v-SVR
  -t 核函数类型:核函数设置类型(默认2)
  0 – 线性:u'v
  1 – 多项式:(r*u'v + coef0)^degree
  2 – RBF函数:exp(-r|u-v|^2)
  3 –sigmoid:tanh(r*u'v + coef0)

-g r(gama):核函数中的gamma函数设置(针对多项式/rbf/sigmoid核函数)

-c cost:设置C-SVC,e -SVR和v-SVR的参数(损失函数)(默认1)


更多关于libsvm 参数的说明请看
libsvm 参数说明【中英文双语版本】
http://www.matlabsky.com/thread-12380-1-1.html

还有关于建立的分类模型model
  1. model=

  2. Parameters: [5x1 double]

  3. nr_class:2

  4. totalSV:197

  5. rho:0.0583

  6. Label: [2x1double]

  7. ProbA:[]

  8. ProbB:[]

  9. nSV: [2x1double]

  10. sv_coef:[197x1 double]

  11. SVs: [197x13double]
复制代码因为好多朋友反映说,比如想得到支持向量,还有model中的一些参看看不懂等等等等一些列问题,会在后面的
分类模型model解密详解中说明

利用libsvm-mat建立分类模型model参数解密【by faruto】

http://www.matlabsky.com/thread-12649-1-1.html

所以也希望诸位看官尤其是对svm感兴趣的朋友多多关注我。O(∩_∩)O~

如果对于标签设置问题您还没有搞懂可以再看看这个:
【转】Matlab中使用libsvm进行分类预测时的标签问题再次说明
http://www.matlabsky.com/thread-12396-1-1.html


更多关于SVM的东西请看:

关于SVM的那点破事[长期更新整理 by faruto]
http://www.matlabsky.com/thread-10966-1-1.html

  

爱华网本文地址 » http://www.413yy.cn/a/25101014/221132.html

更多阅读

Word教程-在Word中如何使用通配符快速查找 word快速查找

Word教程-在Word中如何使用通配符快速查找——简介若要想在Word中使用通配符来调整搜索条件,依次单击“编辑→查找”,或者可以按组合键Ctrl+H弹出“查找和替换”对话窗口进行设置,下面我跟大家说说在Word中如何使用通配

如何使用DOS命令快速清理磁盘 dos命令禁止磁盘访问

如何使用DOS命令快速清理磁盘——简介电脑会随着使用时间变长产生很多临时的文件,各种垃圾文件并且逐渐变慢。让电脑快速的跑起来,恢复快速运转需要不时的进行磁盘清理。今天和大家分享一个简单快速的一键清理磁盘的办法

DNF补丁如何使用 dnf史诗闪光补丁哪里下

DNF补丁如何使用——简介《地下城与勇士》是一款韩国网络游戏公司NEOPLE开发的免费角色扮演2D游戏,由三星电子发行,并于2005年8月在韩国正式发布。该游戏是一款2D卷轴式横版格斗过关网络游戏 (MMOACT),大量继承了众多家用机、街机2D格

如何使用金山毒霸的免费wifi 金山毒霸wifi共享

如何使用金山毒霸的免费wifi——简介最新版的金山毒霸一键wifi很好用,让我们方便进行热点的创建,让我们更好的使用网络,不怕手机没有流量了。如何使用金山毒霸的免费wifi——方法/步骤如何使用金山毒霸的免费wifi 1、首先,在百度上搜索

如何使用魔影工厂转换视频格式 魔影工厂和格式工厂

如何使用魔影工厂转换视频格式——简介我们平时在电脑上看电影,觉得电影不错,于是想搞到手机里播放,但是手机支持的格式有限,又或者因为手机容量的问题,所以我们必须要对视频格式进行转换,今天教大家如何用魔影工厂转换我们的视频

声明:《如何使用libsvm进行分类 libsvm 输出 分类概率》为网友绅士男孩分享!如侵犯到您的合法权益请联系我们删除