SVM实验报告

svm分类算法

一、数据源说明

1、数据源说远和理解：

ticeval2000.txt: 这个数据集是需要预测（ 4000个客户记录）的数据集。它和

ticdata2000.txt它具有相同的格式，只是没有最后一列的目标记录。我们只希望返回预测

目标的列表集，所有数据集都用制表符进行分隔。共有4003（自己加了三条数据），根据要

求，用来做预测。

tictgts2000.txt：最终的目标评估数据。这是一个实际情况下的目标数据，将与我们预

测的结果进行校验。我们的预测结果将放在result.txt文件中。

数据集理解：本实验任务可以理解为分类问题，即分为2类，也就是数据源的第86列，

可以分为0、1两类。我们首先需要对ticdata2000.txt进行训练，生成model，再根据model

进行预测。

2、数据清理

代码中需要对数据集进行缩放的目的在于：

a、避免一些特征值范围过大而另一些特征值范围过小；

b、避免在训练时为了计算核函数而计算内积的时候引起数值计算的困难。因此，通常将

数据缩放到 [ -1,1] 或者是 [0,1] 之间。

二、数据挖掘的算法说明

1、 svm算法说明

2、实现过程

在源程序里面，主要由以下2个函数来实现：

(1) struct svm_model *svm_train(const struct svm_problem *prob, const struct

svm_parameter *param);

该函数用来做训练，参数prob，是svm_problem类型数据，具体结构定义如下： struct

svm_problem //存储本次参加运算的所有样本(数据集)，及其所属类别。 { int n; //记录样本总数

double *y; //指向样本所属类别的数组

struct svm_node **x; //指向一个存储内容为指针的数组

};

其中svm_node的结构体定义如下：

struct svm_node //用来存储输入空间中的单个特征

{

int index; //输入空间序号，假设输入空间数为m double value; //该输入空间的值

};

所以，prob也可以说是问题的指针，它指向样本数据的类别和输入向量，在内存中的具

体结构图如下：

图1.1libsvm训练时，样本数据在内存中的存放结构

只需在内存中申请n*(m+1)*sizeof(struct svm_node)大小的空间，并在里面填入每个

样本的每个输入空间的值，即可在程序中完成prob参数的设置。参数param，是

svm_parameter数据结构，具体结构定义如下：

struct svm_parameter // 训练参数

{

int svm_type; //svm类型，

int kernel_type; //核函数类型

int degree; /* for poly */

double gamma; /* for poly/rbf/sigmoid */ double coef0; /* for poly/sigmoid */ /* these are for training only */ double cache_size; /* in mb 制定训练所需要的内存*/ double eps; /* stopping criteria */ double c; /* for c_svc, epsilon_svr and nu_svr ，惩罚因子*/ int nr_weight; /* for c_svc 权重的数目*/ int *weight_label; /* for c_svc 权重，元素个数由nr_weight 决定*/ double* weight;

/* for c_svc */

double nu; /* for nu_svc, one_class, and nu_svr */ double p; /* for epsilon_svr */ int shrinking; /* use the shrinking heuristics 指明训练过程是否使用压缩*/ int probability; /* do probability estimates 指明是否要做概率估计*/ } 其中，svm类型和核函数类型如下：

设定完这两个参数，就可以直接在程序中调用训练函数进行训练了，该其函数返回一个

struct svm_model *svm模型的指针，可以使用svm_save_model(const char

*model_file_name, const struct svm_model *model)函数，把这个模型保存在磁盘中。至

此，训练函数的移植已经完成。

(2) double svm_predict(const struct svm_model *model, const struct svm_node *x);

参数model，是一个svm模型的指针，可以使用函数struct svm_model

*svm_load_model(const char *model_file_name)，导入训练时保存好的svm模型，此函数

返回一个svm模型的指针，可以直接赋值给变量model。

参数x，是const struct svm_node结构体的指针，本意是一个输入空间的指针，但实

际上，该函数执行的时候，是从参数x处计算输入空间，直到遇到单个样本数据结束标记-1

才结束，也就是说，该函数运算了单个样本中的所有输入空间数据。因此，在调用此函数时，

必须先把预测样本的数据按图3.4中的固定格式写入内存中。另外，该函数只能预测一个样

本的值，本文需要对图像中的所有像数点预测，就要使用for循环反复调用。

该函数返回一个double类型，指明被预测数据属于哪个类。面对两分类问题的时候，通

常使用+1代表正样本，即类1；-1代表负样本，即类2。最后根据返回的double值就可以知

道预测数据的类别了。

三、算法源代码及注释说明

1、需要在工程中添加头文件 svm.h 和源文件svm.cpp

2、自己编写的源代码（c++实现）（共230行）：

#include svm.h

#include <iostream>

#include <list>

#include <iterator>

#include <vector>

#include <string>

#include <ctime> using namespace std;

#ifdef win32

#pragma warning (disable: 4514 4786) #endif svm_parameter param;

svm_problem prob;

svm_model *svmmodel;

list<svm_node*> xlist; list<double> ylist ; const int max=10;

const int ntsttimes=10;

vector<int> predictvalue; vector<int> realvalue; int trainnum=0;

//设置参数

void setparam()

{

param.svm_type = c_svc;

param.kernel_type = rbf;

param.degree = 3;

param.gamma = 0.5;

param.coef0 = 0;

param.nu = 0.5;

param.cache_size = 40;

param.c = 500;

param.eps = 1e-3;

param.p = 0.1;

param.shrinking = 1;

// param.probability = 0;

param.nr_weight = 0;

param.weight = null; param.weight_label =null;

}

void train(char *filepath) { file *fp;

int k;

int line=0;

int temp; if((fp=fopen(filepath,rt))==null) return ; while(1)

{

svm_node* features = new svm_node[85+1]; for(k=0;k<85;k++)

{

fscanf(fp,%d,&temp);

features[k].index = k + 1; features[k].value = temp/(max*1.0) ; } features[85].index = -1; fscanf(fp,%d,&temp);

xlist.push_back(features); ylist.push_back(temp); line++;

trainnum=line;

if(feof(fp))

break;

} setparam();

prob.l=line;篇二：svm分类器-人脸识别专题报告

svm分类器-人脸识别专题报告

摘要：本次试验报告，介绍了人脸识别方法分类器的设计并进行人脸识别。主要是设计

svm分类器，并用来进行人脸分类识别，并对分类器实验结果做出分析。实验主要步骤：首

先对图像预处理，转换成向量，再通过pca算法对orl人脸数据库图像进行降维特征提取，

运用svm工具箱对数据进行训练，再利用svm分类方法对特征向量进行分类识别，寻找和待

识别图片最为接近的训练样本第一张图片。最后在matlab上进行实验仿真，分析实验结果。

关键字：最近邻法、pca算法、多类svm、人脸识别

1.引言

人脸识别是模式识别的一个发展方向和重要应用，人脸检测和识别在安全识别、身份鉴

定、以及公安部门的稽查活动中有重要作用。本文主要使用pca算法、多类svm训练和svm

分类器设计人脸识别算法。从orl人脸图像数据库中，构建自建人脸训练数据库和测试数据

库，采用k-l变换进行特征脸提取，并实现人脸识别。通过k-l变换在人脸识别中的应用，

加深对所学内容的理解和认识，进一步加深理解模式识别的算法。

2.人脸识别系统

完整的人脸识别系统至少包括两个主要环节。首先在输入图像中找到人脸的位置即人脸

检测，将人脸从背景中检测出来；其次，将检测到的人脸图像进行预处理、特征提取和识别。

如下图1所示：

图 1

人脸识别系统虽然有诱人的应用前景，但是在现实中却还没有开始大规模的使用。目前，

国内外多所大学和研究机构已研制出一些较好的人脸识别原型系统，一些较成熟的商业人脸

识别系统也已投入应用，但从技术的角度来看，大样本集、非可控条件下的稳健识别技术仍

不成熟，用计算机自动进行人脸的定位和识别十分困难，目前的识别效果（正确率，速度）

不如其他的生物识别技术，如指纹识别，视网膜识别等等。人们在日常生活中就进行了大量

的人脸定位和识别工作，当然全部是由人的视觉系统和大脑“自动”进行的。目前还不清楚

人的视觉系统和大脑的工作原理，因此这项人可以轻而易举完成的任务，牵涉到模式识别、

图

象处理及生理、心理学等方面的诸多知识，对于目前还只会死板地执行程序指令的计算

机来说却是极端困难。

3.算法简述

3.1 pca算法

3.2 svm算法

支持向量机（support vector machine,svm）是在统计学理论的基础上发展起来的新一

代学习算法，它在文本分类、手写识别、图像分类、生物信息学等领域中获得较好的应用。

相比于容易过度拟合训练样本的人工神经网络，支持向量机对于未见过的测试样本具有更好

的推广能力。

svm是一个二分器，只能用于2类样本的分类，现在我们将它推广到多类问题。本文是

对svm进行推广到能够处理多类问题。采用一对一的投票策略。将a、

b、c、d 4类样本两类两类的分成训练集，即（a,b）、(a,c)、（a,d）、(b,c)、（b,d）、（c,d）,

得到6个（对于n类问题，为n(n-1)/2个）svm二分器。在测试的时候，把测试样本x依次

送入这6个二分器，采取投票形式，最后得到一组结果。投票是以如下方式进行。

初始化：vote(a)=vote(b)=vote(c)=vote(d)=0.

投票过程：如果使用训练集（a,b）得到的分类器将x判定为a类，则vote(a)=vote(a)+1，

否则vote(b)=vote(b)+1；如果使用（a,c）训练的分类器将x判定为a类，则

vote(a)=vote(a)+1,否则vote(c)=vote(c)+1；...;如果使用（c,d）训练的分类器将x判定

为c类，则vote(c)=vote(c)+1,否则vote(d)=vote(d)+1。

最终判决：max(vote(a),vote(b),vote(c),vote(d))。如有两个以上的最大值，则一般

可以简单地取第一个最大值所对应的类别。

4.实验步骤

该实验选取的是orl人脸数据库作为实验样本，总共40个人，实验样本分为训练样本和

测试样本。首先设置训练样本集，选择40个人前5张图片作为训练样本，进行训练，并将训

练后的数据存放到multisvmtrain.mat中保存。然后设置测试样本集，将40个人后5张图片

作为测试样本，进行选取识别。实验流程图如下：

整个训练过程，包括读入图像，pca降维，以及多类svm训练，实现的关键代码如下：

display(读入人脸数据...);

[imgrow,imgcol,facecontainer,facelabel]=readfaces(nfacesperperson,nperson); ... display(pca降维...);

[pcafaces, w] = fastpca(facecontainer, 20); % 主成分分析pca % pcafaces是200*20的矩阵, 每一行代表一张主成分脸(共40人，每人5张)，每个脸

20个维特征

...

%数据规格化

display(scaling...);

[x,a0,b0] = scaling(x);

训练完毕后，将数据保存。

（2）开始识别：

打开一张图片（每个人的后5张中选择），然后对该图片进行pca变换降维，特征提取、

规格化，从保存的训练数据库中读取数据，通过svm分类器识别该测试样本的类别，并显示

该图片对应人的第一张图片和类别。主要代码如下： % 读入相关训练结果

display(载入训练参数...);

load(mat/multisvmtrain.mat); xnewface = readaface(newfacepath); % 读入一个测试样本

xnewface = double(xnewface); xnewface = (xnewface-meanvec)*v; % 经过pca变换降维

xnewface = scaling(xnewface,1,a0,b0);

xnewface = readaface(newfacepath); % 读入一个测试样本

xnewface = double(xnewface); xnewface = (xnewface-meanvec)*v; % 经过pca变换降维

xnewface = scaling(xnewface,1,a0,b0);

（3）最后进行测试：

测试是指分类所有的测试样本（40个人的后50张图像，共200个样本），并计算识别率。

主要实现代码如下：

nfacesperperson = 5;

nperson = 40;

btest = 1;

% 读入测试集合

display(读入测试集合...);

[imgrow,imgcol,testface,testlabel] = readfaces(nfacesperperson, nperson,

btest);

% 读入相关训练结果

display(载入训练参数...);

load(mat/pca.mat);

load(mat/scaling.mat);

load(mat/traindata.mat);

load(mat/multisvmtrain.mat); % pca降维

display(pca降维处理...);

[m n] = size(testface);

testface = (testface-repmat(meanvec, m, 1))*v; % 经过pca变换降维 testface =

scaling(testface,1,a0,b0);

% 多类 svm 分类

display(测试集识别中...);

classes = multisvmclassify(testface); display(..............................); % 计算识别率

nerror = sum(classes ~= testlabel); accuracy = 1 - nerror/length(testlabel); display([对于测试集200个人脸样本的识别率为, num2str(accuracy*100), %]);

5.实验仿真

该实验在matlab上进行实验仿真，主要包括样本的训练、保存，打开一张待识别图片，

然后调用训练数据库，对该图片进行识别，并显示出该人的第一张图片和该人的类别，以及

对全部测试样本进行分类，并计算识别率。

实验仿真结果图如下：

篇三：分享-文本分类实验报告

北京邮电大学 2013-2014学年第1学期实验报告

（代码就不分享了，都是文本格式处理的代

码.欢迎大家批评指正！）

课程名称：数据仓库与数据挖掘

实验名称：svm文本分类

实验完成人：

姓名：学号：

姓名：学号：

姓名：学号：

日期： 2013 年11 月

实验一：svm文本分类

1. 实验目的

? 熟悉爬虫的使用，可以利用网络爬虫抓取所需的网络语料 ? 熟悉中文分词软件，可以

熟练使用接口完成分词任务 ? 熟悉文本分类必要的预处理步骤，并运用到实验实践中 ? 熟

悉特征提取方法，包括chi-square 和 lda特征提取

? 了解svm机器学习方法，可以运用开源工具完成文本分类过程

2. 实验分工

xxx：

(1) 运用爬虫对语料库新闻的收集

(2) 对数据的预处理工作

(3) 后期的不同对比试验的测试

xxx:

(1) 特征的提取

(2) 训练集和测试集的生成

(3) 后期的不同对比试验的测试

3. 实验环境

中文分词与lda特征提取运行环境:

(1) java version 1.7

(2) 开发环境:eclipse

python代码运行环境：

(1)python 3.2 4. 主要设计思想

4.1 实验工具介绍

web crawler:由实验室集体开发的网络爬虫，不对外公开。可以方便的通过正则表达式

的配置，轻松的完成对网络数据的提取，并且可以根据需求完成过滤老新闻、不合适的网址

格式等功能。最终的爬取结果文件已经经过程序处理，可以直接得到最需要得到的内容。例

如：在此实验中，最终的爬取结果即为已经从网站中提取出的新闻标题和正文。

ictclas：全称为汉语词法分析系统。具有简易的图形演示界面，和不同语言的api接口，

开发者可以根据自己的需求选择不同的接口。主要功能包括中文分词；词性标注；命名实体

识别；新词识别；同时支持用户词典；在今年的12月中下旬会发布ictclas2014版本。 lib

svm: 是由台湾大学林智仁副教授等开发的一个简单、易于使用和快速有效的svm模式识别与

回归的软件包。除了主体训练，测试的程序，还提供了一些使用的工具，例如子集的选择，

参数的选择与归一化的操作等实用的方法。

jgibblda: 使用java实现了latent dirichlet allocation(lda)，使用了gibbs采样

来进行参数估计。

4.2 特征提取与表达方法的设计

在此次实验中，我们采用了两种特征提取的方法。针对不同的方法提取的特征分别作了

文本分类实验。所有的特征提取与特征表达的详细步骤会在5.3种进行描述。

chi特征提取：

根据上面的公式，最终建立成了数据字典。

经过chi特征提取建立成数据字典，数据字典如图所示（已经经过了按照字母排序处理）：

在每个词的前面是数据字典中，每个词对应的id。

最终的特征向量表达方法为：

class_id word_id:tf-idf ……

第一列class_id为此文本所属的新闻类别，word_id为数据字典中每个词对应的word_id，

tf-idf为每篇文档中，对应的tf-idf值。

lda特征提取：

lda是主题模型的一种。假设一篇文章可以由不同的主题组成，把每篇文章中的主题分

布概率来当作这篇文章的特征，从而形成了特征向量。主题的数量可以由人工根据情况指定

或者通过其他方法科学的得到合理也就是概率最大的主题数量，再对其进行人工指定。

经过lda主题模型分析之后，在通过简单的处理，变换成svm可以接受的输入格式，会

得到如下的特征向量：

图中的第一列为文本的所属类别。后面的为topic_id:probability。topic_id为相应的

主题id，probability为这篇文档此主题的分布情况。

两种特征提取的方法，都将会在5.3中进行详细描述。

4.3 分类算法的选择

我们使用的svm（support vector machine）分类算法，是最大margin分类算法中的一

种。svm是一种可训练的机器学习方法，在小样本中可以得到优秀的训练模型。

图1

如图中所示，svm分类算法可以根据最边界的样本点，也就是支持向

量，达到二分类的目的。当数据的样本线性不可分时，会通过核函数篇四：模式识别第

二次上机实验报告

北京科技大学计算机与通信工程学院

模式分类第二次上机实验报告

姓名：xxxxxx

学号：00000000

班级：电信11

时间：2014-04-16

一、实验目的

1．掌握支持向量机（svm）的原理、核函数类型选择以及核参数选择原则等；

二、实验内容

2.准备好数据，首先要把数据转换成libsvm软件包要求的数据格式为：

label index1:value1 index2:value2 ...

其中对于分类来说label为类标识，指定数据的种类；对于回归来说label为目标值。

（我主要要用到回归）

index是从1开始的自然数，value是每一维的特征值。

该过程可以自己使用excel或者编写程序来完成，也可以使用网络上的formatdatalibsvm.xls来完成。 formatdatalibsvm.xls使用说明：

先将数据按照下列格式存放（注意label放最后面）：

value1 value2 label

value1 value2 label 然后将以上数据粘贴到formatdatalibsvm.xls中的最左上角单元格，接着工具->宏

执行行formatdatatolibsvm宏。就可以得到libsvm要求的数据格式。将该数据存放到文本

文件中进行下一步的处理。

3.对数据进行归一化。

该过程要用到libsvm软件包中的svm-scale.exe svm-scale用法：

用法：svmscale [-l lower] [-u upper] [-y y_lower y_upper] [-s save_filename] [-r

restore_filename] filename （缺省值： lower = -1，upper = 1，没有对y进行缩放）其

中， -l：数据下限标记；lower：缩放后数据下限； -u：数据上限标记；upper：缩放后数

据上限； -y：是否对目标值同时进行缩放；y_lower为下限值，y_upper为上限值；（回归需

要对目标进行缩放，因此该参数可以设定为–y -1 1 ） -s save_filename：表示将缩放的

规则保存为文件save_filename；-r restore_filename：表示将缩放规则文件

restore_filename载入后按此缩放； filename：待缩放的数据文件（要求满足前面所述的

格式）。缩放规则文件可以用文本浏览器打开，看到其格式为：

y

lower upper min max x

lower upper

index1 min1 max1

index2 min2 max2 其中的lower 与upper 与使用时所设置的lower 与upper 含义相同；index 表示特征

序号；min 转换前该特征的最小值；max 转换前该特征的最大值。数据集的缩放结果在此情

况下通过dos窗口输出，当然也可以通过dos的文件重定向符号“>”将结果另存为指定

的文件。该文件中的参数可用于最后面对目标值的反归一化。反归一化的公式为：

（value-lower）*（max-min）/(upper - lower)+lower 其中value为归一化后的值，其他参数与前面介绍的相同。

建议将训练数据集与测试数据集放在同一个文本文件中一起归一化，然后再将归一化结

果分成训练集和测试集。

4.训练数据，生成模型。

用法： svmtrain [options] training_set_file [model_file] 其中， options（操作参数）：可用的选项即表示的涵义如下所示 -s svm类型：设置svm

类型，默

认值为0，可选类型有（对于回归只能选3或4）：

0 -- c- svc 1 -- n - svc 2 -- one-class-svm 3 -- e - svr 4 -- n - svr -t

核函数类型：设置核函数类型，默认值为2，可选类型有： 0 -- 线性核：u*v 1 -- 多

项式核： (g*u*v+ coef 0)deg ree 2 -- rbf 核：e( u v 2) g - 3 -- sigmoid 核：tanh(g*u*v+

coef 0) -d degree：核函数中的degree设置，默认值为3；

-g g ：设置核函数中的g ，默认值为1/ k ； -r coef 0：设置核函数中的coef 0，

默认值为0； -c cost：设置c- svc、e - svr、n6- svr中从惩罚系数c，默认值为1； -n

n ：设置n - svc、one-class-svm 与n - svr 中参数n ，默认值0.5；

-p e ：设置n - svr的损失函数中的e ，默认值为0.1；

-m cachesize：设置cache内存大小，以mb为单位，默认值为40； -e e ：设置终止

准则中的可容忍偏差，默认值为0.001； -h shrinking：是否使用启发式，可选值为0 或1，

默认值为1； -b 概率估计：是否计算svc或svr的概率估计，可选值0 或1，默认0； -wi

weight：对各类样本的惩罚系数c加权，默认值为1； -v n：n折交叉验证模式。

其中-g选项中的k是指输入数据中的属性数。操作参数 -v 随机地将数据剖分为n 部分

并计算交叉检验准确度和均方根误差。以上这些参数设置可以按照svm 的类型和核函数所支

持的参数进行任意组合，如果设置的参数在函数或svm 类型中没有也不会产生影响，程序不

会接受该参数；如果应有的参数设置不正确，参数将采用默认值。training_set_file是要

进行训练的数据集；model_file是训练结束后产生的模型文件，该参数如果不设置将采用

默认的文件名，也可以设置成自己惯用的文件名。

本实验中的参数-s取3，-t取2（默认）还需确定的参数是-c，-g，-p 另，实验中所需调整的重要参数是-c 和–g，-c和-g的调整除了自己根据经验试之外，

还可以使用gridregression.py对这两个参数进行优化。（需要补充）

该优化过程需要用到python（2.5），gnuplot（4.2），gridregression.py（该文件需要

修改路径）。然后在命令行下面运行：

python.exe gridregression.py -log2c -10,10,1 -log2g -10,10,1 -log2p -10,10,1 -s

3 –t 2 -v 5 -svmtrain e:\libsvm\libsvm-2.86\windows\svm-train.exe -gnuplot e:\libsvm\libsvm-2.86\gnuplot\bin\pgnuplot.exe

e:\libsvm\libsvm-2.86\windows\train.txt > gridregression_feature.parameter 以上三个路径根据实际安装情况进行修改。

-log2c是给出参数c的范围和步长 -log2g是给出参数g的范围和步长 -log2p是给出

参数p的范围和步长上面三个参数可以用默认范围和步长 -s选择svm类型，也是只能选3

或者4 -t是选择核函数 -v 10 将训练数据分成10份做交叉验证。默认为5 为了方便将gridregression.py是存放在python.exe安装目录下

trian.txt为训练数据，参数存放在gridregression_feature.parameter中，可以自己

命名。

搜索结束后可以在gridregression_feature.parameter中最后一行看到最优参数。

其中，最后一行的第一个参数即为-c，第二个为-g，第三个为-p，最后一个参数为均方

误差。前三个参数可以直接用于模型的训练。

然后，根据搜索得到的参数，重新训练，得到模型。

5.测试

用法：svmpredict [options] test_file model_file output_file options（操作参数）：

-b probability_estimates：是否需要进行概率估计预测，可选值为0 或者1，默认值为0。

model_file 是由svmtrain 产生的模型文件；

test_file 是要进行预测的数据文件；

output_file 是svmpredict 的输出文件，表示预测的结果值。

输出结果包括均方误差（mean squared error）和相关系数（squared correlation

coefficient）。

三、实验仪器、设备

1． pc机－系统最低配置 512m 内存、p4 cpu；

2． matlab 仿真软件－ 7.0 / 7.1 / 2006a 等版本的matlab 软件。

3．coil20数据库；

四、实验原理

使用svm-scale 对数据进行缩放是必要的。因为适当的scale有助于参数的选取和建svm

模型的速度。svm-scale 会对value 做scale。范围用 -l, -u 指定，通常是[0,1]，或是

[-1,1]。（文本分类一般选[0，1]）。輸出在 stdout。另外要注意的是 testing data 和

training data要一起scale。而svm-scale 最难用的地方就是沒办法指定testing

data/training data为同一文档，然后一起scale。因此为了后面测试，还要对测试集进行

scale。

五、实验数据及结果分析：

训练样本识别率1(%) 测试样本识别$/(%) 72.9 62 79.3 67 81 69.7 svmtoy输出图形

svm分类器matlab代码

clear;%清屏

clc;

x =load(data.txt);

n = length(x);%总样本数量

y = x(:,4);%类别标志

x = x(:,1:3);

tol = 0.0001;%精度要求

c = 1;%参数，对损失函数的

b = 0;%初始设置截距b

wold = 0;%未更新a时的w(a) wnew = 0;%更新a后的w(a)

for i = 1 : 50%设置类别标志为1或者-1 y(i) = -1;

end

a = zeros(n,1);%参数a

for i = 1 : n%随机初始化a,a属于[0,c] a(i) = 0.2;

end %为简化计算，减少重复计算进行的计算

k = ones(n,n);

for i = 1 :n%求出k矩阵，便于之后的计算

for j = 1 : n

k(i,j) = k(x(i,:),x(j,:));

end

end

sum = zeros(n,1);%中间变量，便于之后的计算，sum(k)=sigma a(i)*y(i)*k(k,i); for

k = 1 : n

for i = 1 : n

sum(k) = sum(k) + a(i) * y(i) * k(i,k); end

end while 1%迭代过程

%启发式选点

n1 = 1;%初始化，n1,n2代表选择的2个点

n2 = 2;

%n1按照第一个违反kkt条件的点选择

while n1 <= n

if y(n1) * (sum(n1) + b) == 1 && a(n1) >= c && a(n1) <=

break;

end

if y(n1) * (sum(n1) + b) > 1 && a(n1) ~= 0 break;

end

if y(n1) * (sum(n1) + b) < 1 && a(n1) ~=c break;篇五：libsvm分类实验报告

一、 libsvm介绍

libsvm是台湾大学林智仁(chih-jen lin)副教授等开发设计的一个简单、易于使用和快

速有效的svm模式识别与回归的软件包，他不但提供了编译好的可在windows系列系统的执

行文件，还提供了源代码，方便改进、修改以及在其它操作系统上应用；该软件还有一个特

点，就是对svm所涉及的参数调节相对比较少，提供了很多的默认参数，利用这些默认参数

就可以解决很多问题；并且提供了交互检验(cross validation)的功能。

二、准备工作

2.1软件下载安装

使用的平台是windows xp，从命令列执行。先把一些需要的东西装好，总共需要三个软

件：libsvm, python, gnuplot。这里我选择的版本是libsvm-2.88,python26。

libsvm：到

/retype/zoom/a53ef4868762caaedd33d4b2?pn=2&x=0&y=0&raww=631&rawh=485&o=png_6_0_0

_135_114_622_478_893.25_1263.375&type=pic&aimh=368.93819334389855&md5sum=a768a0d

700dfdcfb99dc9b13825b1304&sign=a453d348c3&zoom=&png=0-141776&jpg=0-0"

target="_blank">点此查看

②点中grid.py在右键中选edit with idle打开,将else下面的路径修改如下: else: # example for windows

svmtrain_exe = rc:\libsvm-2.91\windows\svm-train.exe gnuplot_exe = rc:\gnuplot\bin\pgnuplot.exe

三、实验步骤

(1)按照libsvm软件包所要求的格式准备数据集；

(2)对数据进行缩放操作；

(3)选用适当的核函数；

(4)采用交叉验证选择惩罚系数c与g的最佳参数；

(5)采用获得的最佳参数对整个训练集进行训练获取支持向量机模型；

(6)利用获取的模型进行测试与预测。