中南大学模式识别课程设计报告

CENTRAL SOUTH UNIVERSITY

模式识别课程设计报告

题目

学生姓名

班级学号

指导教师

设计时间

前言

1、课程设计的目的

《模式识别》课程是智能科学与技术等专业教学计划中以应用为基础的一门专业课，是研究如何用机器去模拟人的视觉、听觉、触觉等感觉器官以识别外界环境的理论与方法，《模式识别》课程设计的目的是使学生掌握统计模式识别的基本分类方法的算法设计及其验证方法，通过设计性实验的训练，以提高学生设计算法及数值实验的能力，进一步提高分析问题、解决问题的能力。通过本课程设计，学习利用监督或非监督学习方法对生活中的实际问题进行识别分类，掌握模式识别系统的基本设计思路与步骤。

2、课程设计的基本内容

观察生活与环境，自选一个题目，采用一种监督或非监督学习方法对其进行分类与识别。（贝叶斯决策、Fisher线性判别、感知准则方法、Parzen 窗法或 Kn 近邻法、K-L变换法、K-means等）。

数据源可以自选，也可以参考UCI数据集：https://www.360docs.net/doc/759712479.html,/ml/

前言---------------------------------------------------------------------------1 目录---------------------------------------------------------------------------2 正文---------------------------------------------------------------------------3 结论---------------------------------------------------------------------------5 附录---------------------------------------------------------------------------6 参考文献---------------------------------------------------------------------8

我们组选择用模式识别中的Fisher线性判别方法，根据身高体重数据，来进行男女判别分类的问题。

选用的编程语言工具是matlab，于win7系统环境下编程。

算法流程图：

求各类样本均

值向量

求类内离散度

矩阵

用公式求最好

W*

的变换向量

空间投影

维y

均值

y0

决策判断

的错误率

将训练集female.mat 和male.mat 中数据用矩阵表示为w1和w2，利用MATLAB 的mean()函数分别求出w1和w2的均值，在D 维空间中：各样本类内离散度矩阵i S 、总类内离散度矩阵w S 和样本类间离散度矩阵b S 的计算公式分别为：

T

b w T

i x i i m m m m S S S S i m x m x S ))((2

,1,)()(21212

1 --=+==--=∑Θ

∈

利用以上公式可以求出男生和女生类别的类内离散度矩阵、总类内离散度矩阵和样本类间离散度矩阵，分别用s1、s2、sw 、sb 表示。之后，利用公式：

)(211*m m S w w

-=-

可以求出*w 使Fisher 准则函数)(w J F 取极大值时的解，也就是D 维空间到一维Y 空间最好的投影方向，用vector_w 表示。在此基础上求出一维Y 空间中的均值ave_m1、ave_m2。

取先验概率pw1 = 0.5; pw2 = 0.5;利用公式求出w0 = (ave_m1+ave_m2)/2 + log(pw1/pw2)。

对于测试样本sample 中选取了15个女生的数据加20个男生数据，利用： vector_w'*sample(n,:)' - w0>0来判别为女生； vector_w'*sample(n,:)' - w0<0来判别为男生。

之后我们用了30个数据测试最后实验结果显示为： right = 28 wrong = 2

准确率为93%。

附录

程序代码：

clc;

clear;

%女生样本

w1=[171 53;168 57;160 58;161 45;153 51;160 53;165 53.2;163 44;164 55;

160 50.5;161 50;154 63;152 50;166 52;165 55;183 67;165 57.5;

169 57.1;170 60;163 47;165 50;160 51;140 46;170 60;171 57;164 55;

149 50;167 57;165 57;163 44;163 50;166 60;166 47;168 57;160 50;

163 47.5;157 50;163 51;169 50;167 54;165 52;157 46;163 50;162 53;

153 65;166 55;170 56;160 45;157 40;160 46];

%男生样本

w2=[175 68;176 73;187 70;172 70;174 69;164 53;175 59;180 63;176 80;

180 70;178 65;175 60;175 70;173 60;177 58;168 56;170 57;175 65;

178 77;165 56;170 57.5;168 55.1;169 65;178 67;179 68.5;172 55;

172 65;170 57;165 55;177 70;170 68;175 66;172 60;178 69;176 66;

167 60;178 90;173 65;171 68;180 72;173 60;180 80;169 60;171 58;

174 65;176 66;174 68;171 66;180 84;175 70];

tran_m1=mean(w1);%女生样本类均值向量

tran_m2=mean(w2);%男生样本类均值向量

m1=tran_m1';

m2=tran_m2';

sb=(m1-m2)*(m1-m2)';%类间离散度矩阵

%计算算女生的类内离散度

s1=zeros(2);%s1表示女生样本的类内离散度矩阵

for n=1:50

temp = (w1(n,:)'-m1)*(w1(n,:)'-m1)';%w1(n,:)表示矩阵w1的第n行的所有元素

s1=s1+temp;

end;

%计算男生的类内离散度

s2=zeros(2);%s2表示男生样本的类内离散度矩阵

for n=1:50

temp = (w2(n,:)' - m2)*(w2(n,:)' - m2)';

s2 = s2+temp;

end;

sw=s1+s2;%sw为总类内离散度矩阵

vector_w=inv(sw)*(m1-m2); %vector_w就是w*也就是fisher判别准则下的最优投影方向

%计算在一维Y空间的各类样本均值

ave_m1 = vector_w'*m1;

ave_m2 = vector_w'*m2;

%计算w0

pw1 = 0.5;%w1的概率

pw2 = 0.5;%w2的概率

w0 = (ave_m1+ave_m2)/2 + log(pw1/pw2);

sample=[178 73;190 85;178 74;168 63;172 63;181 67;185 76;186 74; 169 60;178 90;178 70;176 58;174 68;178 60;176 72;180 65;175 65; 182 60;172 65;170 65;162 44;155 48;173 54;168 53;163 57;155 48; 155 40;163 46;155 41;167 55;164 55;161 45;160 60; 156 49;163 50;];

right=0;

wrong=0;

for n=1:35

if(vector_w'*sample(n,:)' - w0>0)%满足被判为女生的条件

right=right+1;

else%判断为男生

wrong=wrong+1;

end;

end;

rate=right/15;

disp(['该程序准确率为',num2str(rate)])

height=input('请输入欲分类人的身高(cm)：');

weight=input('请输入欲分类人的体重(kg)：');

x=[height,weight];

if(vector_w'*x'-w0>0)

disp('该生为女生！')

else

disp('该生为男生！')

end;

参考文献

1、《模式识别》（第3版），张学工，清华大学出版社，2010年。

2、《模式识别与智能计算——Matlab技术实现》，杨淑莹，电子工业出版社，2008年。