人工神经网络

人工神经网络与应用课程

1、设计单一感知器神经元来解决一个简单分类问题：将4个输入向量分为两类，其中两个输入向量对应的目标值为1，另两个向量对应的目标值为0。用plot 函数绘出向量分布和分类线。

输入向量为P=[-1 -0.5 +0.3 -0.1;-0.5 +0.5 -0.5 +1.0] 目标向量为T=[1 1 0 0] 程序：

P= [-1 -0.5 0.3 -0.1; -0.5 0.5 -0.5 1.0]; T= [1 1 0 0];

net=newp(minmax(P),1);%创建一个感知器网络

net.trainParam.enochs=10;%设置训练次数最大为10次 net=train(net,P,T); figure;

plotpv(P,T);

plotpc(net.iw{1},net.b{1}); %在感知器向量图中绘制分界线

程序结果如下：

-1.5

-1

-0.5

00.5

-1

-0.500.5

1

1.5

Vectors to be Classified

P(1)

P (2

)

图1-1 向量分布图

图1-2 训练过程的误差曲线

2、设计多层感知器神经元来解决一个分类问题：将10个输入向量分为4类。用plot函数绘出向量分布和分类线。

输入向量为P=[0.1 0.7 0.8 0.8 1.0 0.3 0.0 -0.3 -0.5 -1.5;

1.2 1.8 1.6 0.6 0.8 0.5 0.2 0.8 -1.5 -1.3]

目标向量为T=[1 1 1 0 0 1 1 1 0 0 ; 0 0 0 0 0 1 1 1 1 1]

程序：

P=[0.1 0.7 0.8 0.8 1.0 0.3 0.0 -0.3 -0.5 -1.5;

1.2 1.8 1.6 0.6 0.8 0.5 0.2 0.8 -1.5 -1.3];

T=[1 1 1 0 0 1 1 1 0 0;

0 0 0 0 0 1 1 1 1 1 ];

net=newp(minmax(P),2);%创建一个两层的感知器

net.trainParam.epochs=10;

net=train(net,P,T);

figure;

plotpv(P,T);

plotpc(net.iw{1},net.b{1});

程序结果如下：

-2.5

-2-1.5-1-0.5

00.51 1.52

-2

-1

1

2

3

Vectors to be Classified

P(1)

P (2)

图2-1向量分布图

图2-2训练过程的误差曲线

3、用多层感知器解决异或分类问题，用plot函数绘出向量分布和分类线。程序：

net=network;%创建一个两层的感知器网络

net.numInputs=1;%一个输入源

net.numLayers=2;%两层网络

net.biasConnect=[1;1];%设定网络的阈值

net.inputConnect=[1;0];%设定输入权值

https://www.360docs.net/doc/8118961139.html,yerConnect=[0 0;1 0];%设置层连接

net.targetConnect=[0 1];%设置目标连接

net.outputConnect=[0 1];%设置输出连接

net.inputs{1}.range=[0 1;0 1];%第一层输入范围

https://www.360docs.net/doc/8118961139.html,yers{1}.size=2;%第一层神经元个数为2

https://www.360docs.net/doc/8118961139.html,yers{1}.transferFcn='hardlim';%激活函数

https://www.360docs.net/doc/8118961139.html,yers{1}.initFcn='initnw';%初始化

https://www.360docs.net/doc/8118961139.html,yers{2}.size=1;%第二层有一个神经元

https://www.360docs.net/doc/8118961139.html,yers{2}.transferFcn='hardlim';

https://www.360docs.net/doc/8118961139.html,yers{2}.initFcn='initnw';

net.adaptFcn='trains';

net.performFcn='mse';%性能函数区均方差函数

net.trainFcn='trainlm';%训练函数

net.initFcn='initlay';%初始化函数

net=init(net);%对网络进行初始化

P=[0 0 1 1;1 0 0 1];%设置训练样本P和T

T=[1 0 1 0];

net.trainParam.epochs=500;%设置网络训练次数为500

net=train(net,P,T);

sim(net,P)

figure; %创建一个新的绘图窗口

plotpv(P,T); %在坐标图中绘制测试数据

plotpc(net.iw{1},net.b{1}) ;%在坐标图中绘制分类线

程序结果如下：

-0.500.51 1.5

-0.5

0.5

1

1.5

Vectors to be Classified

P(1)

P

(

2

)

图3向量分布图

4、设计一个简单的单层线性神经元，使其实现从输入到输出的变换关系，其输入和目标分别为P=[+1.0 -1.2] ;T=[+0.5 +1.0]

图4-1

程序：

P = [+1.0 -1.2];

T = [+0.5 +1.0];

wv= -1:0.2:1; %设定权值列向量

bv = -1:0.2:1; %设定阈值列向量

ES =errsurf(P,T,wv, bv,'purelin');% 计算个神经元的误差曲面

plotes(wv,bv,ES);% 绘制单输入神经元的误差曲面

maxlr = 0.40*maxlinlr(P,'bias');%寻找最快速稳定的学习速率

net = newlin([-2 2],1,[0],maxlr); %创建一个线性层

net.trainParam.goal = .001;

% [net,tr] = train(net,P,T);

net.trainParam.epochs = 1;

net.trainParam.show = NaN;%两次显示之间的训练步数，没有显示是取NaN

h=plotep(net.IW{1},net.b{1},mse(T-sim(net,P)));%绘制权值和阈值在误差曲面上的位置 [net,tr] = train(net,P,T); r = tr; epoch = 1; while true

epoch = epoch+1; [net,tr] = train(net,P,T); if length(tr.epoch) > 1

h = plotep(net.IW{1,1},net.b{1},tr.perf(2),h); r.epoch=[r.epoch epoch] %仿真步数、时刻点 r.perf=[r.perf tr.perf(2)];%训练性能 r.vperf=[r.vperf NaN];%确认性能 r.tperf=[r.tperf NaN];%检验性能 else

break end end tr=r;

plotperf(tr,net.trainParam.goal); p = -1.2;

a = sim(net, p)

程序结果如下：

-1

1

Error Surface

S u m S q u a r e d E r r o r

-1

-0.5

00.51

-1-0.8

-0.6

-0.4-0.200.2

0.40.60.8

1Weight W

B i a s B

Error Contour

图4-2误差曲面和误差等高线

图4-3训练过程的误差曲线

5、设计两层BP网络进行函数逼近，其网络的隐层各神经元的激活函数为双曲线正切型，输出层各神经元的激活函数为线性函数，隐层各有5个神经元，并有如下21组单输入矢量和相对应的目标矢量：

输入向量为P=[-1:0.1:1]

目标向量为T=[-0.96 -0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 -0.1647 -00988 0.3072 0.396 0.3449 0.1816 -0.031 -0.2183 -0.3201];图示给出最终的训练结果和误差记录。

程序：

P=[-1:0.1:1]

T=[-0.96 -0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 -0.1647 -00988 0.3072 ...

0.396 0.3449 0.1816 -0.031 -0.2183 -0.3201];

net=newff(minmax(P),[5,1],{'tansig','purelin'},'traingdx');%创建一个BP网络

net.trainParam.epochs=5000;%设置最大训练次数为5000次

net.trainParam.goal=0.001;%设置训练目标为0.001

net=train(net,P,T);%对函数进行训练

y=sim(net,P);

error=y-T;

res=norm(error);

plot(P,T,'r+');%函数的实际值

hold on;

plot(P,y,'.'); %网络的输出结果

figure;

plot(1:21,y-T); %绘制网络的误差曲线程序结果如下：

0510152025 -0.8

-0.6

-0.4

-0.2

0.2

0.4

0.6

0.8

1

图5-1网络的误差曲线

图5-2 训练结果

6.数据如题5所给，用径向基函数进行逼近，给出结果和误差曲线。 程序：

P=[-1:0.1:1]

T=[-0.96 -0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 -0.1647 -00988 0.3072 0.396 0.3449 0.1816 -0.031 -0.2183 -0.3201]; %创建5个RBF 网络，分布密度分别为1,2,3,4,5 for i=1：5

net=newrbe(P,T,i); y(i,:)=sim(net,P); end

%绘制误差曲线 plot(1:21,y(1,:)-T); hold on

plot(1:21,y(2,:)-T,'+'); hold on

plot(1:21,y(3,:)-T,'.'); hold on

plot(1:21,y(4,:)-T,'r--'); hold on

plot(1:21,y(5,:)-T,'g-.') hold off

程序结果如下：

0510152025

-400

-200

200

400

600

800

图6 网络的逼近误差曲线

7、设计Hopfield网络，针对受到污染的数字3和4进行正确识别。

图7-1 已经受到污染的数字3和4

图7-2 正确的数字1、2、3和4

程序：

one=[-1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1];

two=[1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1];

three=[-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1];

four=[-1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 1 1 -1 1 1 -1 -1 -1 -1 1 1 -1 -1 1 1 -1 -1 -1 1 1 -1 -1 -1 1 1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1];

T=[one;two;three;four]';

T=[three;four]';

net=newhop(T); %构建一个Hopfield网络

No3={[-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 1 -1 -1 1 -1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 1 1 1 1 1 1 1 -1 -1 -1 1 -1 -1 1 -1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1]'};

tu3=sim(net,{1,5},{},No3); % 用Hopfield网络将受到污染的数字3识别出来

tu3{3}'

No4={[-1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 1 1 -1 1 1 1 -1 -1 -1 1 1 -1 1 1 1 -1 -1 -1 1 1 -1 -1 -1 1 1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1 -1 1 -1 1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1]'};

tu4=sim(net,{1,5},{},No4); % 用Hopfield网络将受到污染的数字3识别出来

tu4{3}'

运行结果如下：

ans =

Columns 1 through 19

-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 -1

Columns 20 through 38

-1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1

Columns 39 through 57

-1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1

Columns 58 through 76

1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 1 1 1 1

Columns 77 through 95

1 1 -1 -1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1

Columns 96 through 100

-1 -1 -1 -1 -1

ans =

Columns 1 through 19

-1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 1 1 1 -1

Columns 20 through 38

-1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 1 1 -1 1 1

Columns 39 through 57

-1 -1 -1 -1 1 1 -1 -1 1 1 -1 -1 -1 1 1 -1 -1 -1 1

Columns 58 through 76

1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1

Columns 77 through 95

1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1

Columns 96 through 10

-1 1 1 -1 -1