libsvmc源码（lib svm）

本文目录一览：

• 1、哪位朋友能介绍一下支持向量机工具libsvm的用法
• 2、Libsvm 中关于Grid.py 的问题
• 3、如何利用python使用libsvm
• 4、在libsvm的源代码中，为什么要把支持向量表示成二维数组[][]svm_node的形式？？？琢磨了很久还是没想明白

哪位朋友能介绍一下支持向量机工具libsvm的用法

LIBSVM的简单介绍 2006-09-20 15:59:48

大 中 小

1. LIBSVM 软件包简介

LIBSVM 是台湾大学林智仁(Chih-Jen Lin)博士等开发设计的一个操作简单、易于使用、快速有效的通用SVM 软件包，可以解决分类问题（包括C- SVC、n - SVC ）、回归问题（包括e - SVR、n - SVR ）以及分布估计（one-class-SVM ）等问题，提供了线性、多项式、径向基和S形函数四种常用的核函数供选择，可以有效地解决多类问题、交叉验证选择参数、对不平衡样本加权、多类问题的概率估计等。LIBSVM 是一个开源的软件包，需要者都可以免费的从作者的个人主页

处获得。他不仅提供了LIBSVM的C++语言的算法源代码，还提供了Python、Java、R、MATLAB、Perl、Ruby、LabVIEW以及C#.net 等各种语言的接口，可以方便的在Windows 或UNIX 平台下使用。另外还提供了WINDOWS 平台下的可视化操作工具SVM-toy，并且在进行模型参数选择时可以绘制出交叉验证精度的等高线图。

2. LIBSVM 使用方法简介

LibSVM是以源代码和可执行文件两种方式给出的。如果是Windows系列操作系统，可以直接使用软件包提供的程序，也可以进行修改编译；如果是Unix类系统，必须自己编译。

LIBSVM 在给出源代码的同时还提供了Windows操作系统下的可执行文件，包括：进行支持向量机训练的svmtrain.exe；根据已获得的支持向量机模型对数据集进行预测的svmpredict.exe；以及对训练数据与测试数据进行简单缩放操作的svmscale.exe。它们都可以直接在DOS 环境中使用。如果下载的包中只有C++的源代码，则也可以自己在VC等软件上编译生成可执行文件。

3. LIBSVM 使用的一般步骤是：

1） 按照LIBSVM软件包所要求的格式准备数据集；

2） 对数据进行简单的缩放操作；

3） 考虑选用RBF 核函数；

4） 采用交叉验证选择最佳参数C与g ；

5） 采用最佳参数C与g 对整个训练集进行训练获取支持向量机模型；

6） 利用获取的模型进行测试与预测。

4. LIBSVM使用的数据格式

1）训练数据和检验数据文件格式如下：

label index1:value1 index2:value2 ...

其中label 是训练数据集的目标值，对于分类，它是标识某类的整数(支持多个类)；对于回归，是任意实数。index 是以1开始的整数，可以是不连续的；value为实数，也就是我们常说的自变量。检验数据文件中的label只用于计算准确度或误差，如果它是未知的，只需用一个数填写这一栏，也可以空着不填。

在程序包中，还包括有一个训练数据实例：heart_scale，方便参考数据文件格式以及练习使用软件。可以编写小程序，将自己常用的数据格式转换成这种格式

2）Svmtrain和Svmpredict的用法

LIBSVM软件提供的各种功能都是DOS命令执行方式。我们主要用到两个程序，svmtrain(训练建模)和svmpredict(使用已有的模型进行预测)，下面分别对这两个程序的使用方法、各参数的意义以及设置方法做一个简单介绍：

（1）Svmtrain的用法：

svmtrain [options] training_set_file [model_file]

Options：可用的选项即表示的涵义如下

-s svm类型：SVM设置类型(默认0)

0 -- C-SVC

1 --v-SVC

2 – 一类SVM

3 -- e -SVR

4 -- v-SVR

-t 核函数类型：核函数设置类型(默认2)

0 – 线性：u'v

1 – 多项式：(r*u'v + coef0)^degree

2 – RBF函数：exp(-r|u-v|^2)

3 –sigmoid：tanh(r*u'v + coef0)

-d degree：核函数中的degree设置(默认3)

-g 函数设置(默认1/ k)r(gama)：核函数中的

-r coef0：核函数中的coef0设置(默认0)

-c cost：设置C-SVC， -SVR的参数(默认1)-SVR和

- SVR的参数(默认0.5)-SVC，一类SVM和-n nu：设置

-SVR-p e：设置的值(默认0.1)中损失函数

-m cachesize：设置cache内存大小，以MB为单位(默认40)

-e ：设置允许的终止判据(默认0.001)

-h shrinking：是否使用启发式，0或1(默认1)

-wi C(C-SVC中的C)(默认1)weight：设置第几类的参数C为weight

-v n: n-fold交互检验模式

其中-g选项中的k是指输入数据中的属性数。option -v 随机地将数据剖分为n部分并计算交互检验准确度和均方根误差。以上这些参数设置可以按照SVM的类型和核函数所支持的参数进行任意组合，如果设置的参数在函数或SVM类型中没有也不会产生影响，程序不会接受该参数；如果应有的参数设置不正确，参数将采用默认值。training_set_file是要进行训练的数据集；model_file是训练结束后产生的模型文件，文件中包括支持向量样本数、支持向量样本以及lagrange系数等必须的参数；该参数如果不设置将采用默认的文件名，也可以设置成自己惯用的文件名。

（2）Svmpredict的用法：

svmpredict test_file model_file output_file

model_file 是由svmtrain产生的模型文件；test_file是要进行预测的数据文件；Output_file是svmpredict的输出文件。svm-predict没有其它的选项。

下面是具体的使用例子

svmtrain -s 0 -c 1000 -t 1 -g 1 -r 1 -d 3 data_file

训练一个由多项式核(u'v+1)^3和C=1000组成的分类器。

svmtrain -s 1 -n 0.1 -t 2 -g 0.5 -e 0.00001 data_file =-SVM (在RBF核函数exp(-0.5|u-v|^2)和终止允许限0.00001的条件下，训练一个 0.1)分类器。 svmtrain -s 3 -p 0.1 -t 0 -c 10 data_file =以线性核函数u'v和C=10及损失函数 0.1求解SVM回归。

Libsvm 中关于Grid.py 的问题

最近也在用libsvm

你这个命令有点问题。grid.py在libsvm用来做参数寻优，需要把训练数据当参数传给它，grid.py 命令格式是：Usage: grid.py [-log2c begin,end,step] [-log2g begin,end,step] [-v fold] [-svmtrain pathname] [-gnuplot pathname] [-out pathname] [-png pathname] [additional parameters for svm-train] dataset

最后那个dataset是不能少的

还有grid.py里line 69我的貌似跟你不一样，我那里是这样的(c_begin,c_end,c_step) = map(float,argv[i].split(",")) 不过我用的是3.1版本。anyway要相信工具，libsvm很多人用的，它那里应该是没有问题的 不知道具体情况不要改它源码。

如何利用python使用libsvm

　把包解压在C盘之中，如：C:\libsvm-3.182.

因为要用libsvm自带的脚本grid.py和easy.py,需要去官网下载绘图工具gnuplot,解压到c盘.进入c:\libsvm\tools目录下，用文本编辑器（记事本，edit都可以）修改grid.py和easy.py两个文件，找到其中关于gnuplot路径的那项，根据实际路径进行修改，并保存

python与libsvm的连接（参考SVM学习笔记（2）LIBSVM在python下的使用）

1.打开IDLE(pythonGUI)，输入importsyssys.version

2.如果你的python是32位，将出现如下字符：

(default,Apr102012,23:31:26)[MSCv.150032bit(Intel)]’

这个时候LIBSVM的python接口设置将非常简单。在libsvm-3.16文件夹下的windows文件夹中找到动态链接库libsvm.dll，将其添加到系统目录，如`C:\WINDOWS\system32\’，即可在python中使用libsvm

wk_ad_begin({pid : 21});wk_ad_after(21, function(){$('.ad-hidden').hide();}, function(){$('.ad-hidden').show();});

3.执行一个小例子

importos

os.chdir('C:\libsvm-3.18\python')#请根据实际路径修改

fromsvmutilimport*

y,x=svm_read_problem('../heart_scale')#读取自带数据

m=svm_train(y[:200],x[:200],'-c4')

p_label,p_acc,p_val=svm_predict(y[200:],x[200:],m)

##出现如下结果，应该是正确安装了optimizationfinished,#iter=257nu=0.351161

obj=-225.628984,rho=0.636110nSV=91,nBSV=49

TotalnSV=91

Accuracy=84.2857%(59/70)(classification)

在libsvm的源代码中，为什么要把支持向量表示成二维数组[][]svm_node的形式？？？琢磨了很久还是没想明白

     libsvm虽然支持多类分类，但是其本质是基于“一对一”法的多类分类，因此究其其本质其实是个二分类svm。

     既然是二分类，肯定有属于第一类-1的支持向量，属于第二类+1的支持向量，它肯定应该是个二维数组。

      libsvm训练输出model中的参数有一个是sv_coef，它表示的是支持向量在决策函数中：

的系数a，而b是model里的rho。

       最后说下model里全有啥参数：

       model = 

             Parameters: svm的类型参数

             nr_class: 有多少个类别

             totalSV: 支持向量总个数

             rho: 就是决策函数里那个b

             Label: 类标

             ProbA: 

             ProbB: 这两个是但svm 选-b是用到的参数

           nSV: 每类有多少个支持向量

             sv_coef: 决策函数那个a

             SVs: 里面装的是所以支持向量

菜鸟个人愚见，如有错误望指正！共同学习