参数估计练习题
第七章参数估计练习题
一．选择题
1.估计量的含义是指（）
A.用来估计总体参数的统计量的名称
B.用来估计总体参数的统计量的具体数值
C．总体参数的名称
D．总体参数的具体取值
2．一个95%的置信区间是指（）
A.总体参数有95%的概率落在这一区间内
B.总体参数有5%的概率未落在这一区间内
C. 在用同样方法构造的总体参数的多个区间中，有95%的区间包含该总体参数。
D.在用同样方法构造的总体参数的多个区间中，有95%的区间不包含该总体参数。
%的置信水平是指（）
A.总体参数落在一个特定的样本所构造的区间内的概率是95%
B．在用同样方法构造的总体参数的多个区间中，包含总体参数的区间比例为95%
C．总体参数落在一个特定的样本所构造的区间内的概率是5%
D．在用同样方法构造的总体参数的多个区间中，包含总体参数的区间比例为5%
4.根据一个具体的样本求出的总体均值的95%的置信区间（）
A．以95%的概率包含总体均值
B．有5%的可能性包含总体均值
C.一定包含总体均值
D．要么包含总体均值，要么不包含总体均值
5. 当样本量一定时，置信区间的宽度（）
A.随着置信水平的增大而减小
B. .随着置信水平的增大而增大
C．与置信水平的大小无关 D。与置信水平的平方成反比
6.当置信水平一定时，置信区间的宽度（）
A.随着样本量的增大而减小
B. .随着样本量的增大而增大
C．与样本量的大小无关 D。与样本量的平方根成正比
7.在参数估计中，要求通过样本的统计量来估计总体参数，评价统计量的标准之一是使它与总体参数的离差越小越好。这种评价标准称为（）
A．无偏性 B.有效性 C. 一致性 D. 充分性
8. 置信水平（1-α）表达了置信区间的（）
A．准确性 B. 精确性 C. 显著性D. 可靠性
9. 在总体均值和总体比例的区间估计中，边际误差由（）
A．置信水平决定 B. 统计量的抽样标准差确定
C. 置信水平和统计量的抽样标准差
D. 统计量的抽样方差确定
10. 当正态总体的方差未知，且为小样本条件下，估计总体均值使用的分布是（）
A.正态分布
B. t分布
C.χ2分布
D. F分布
11. 当正态总体的方差未知，且为大样本条件下，估计总体均值使用的分布是（）
A.正态分布 B . t 分布 C.χ2 分布 D. F 分布
12. 当正态总体的方差已知时，且为小样本条件下，估计总体均值使用的分布是（ ）
A.正态分布 B . t 分布 C.χ2 分布 D. F 分布
13. 当正态总体的方差已知时，且为大样本条件下，估计总体均值使用的分布是（ ）
A.正态分布 B . t 分布 C.χ2 分布 D. F 分布
14. 对于非正态总体，在大样本条件下，估计总体均值使用的分布是（ ）
A.正态分布 B . t 分布 C.χ2 分布 D. F 分布
15.对于非正态总体，在大样本条件下，总体均值在（1-α）置信水平下的置信区间可以写为（ ） A. n z x 22/σα± B. n z x 22/σα± C . n z x σα2/± D. n
s z x 22/α± 16.正态总体方差已知时，在小样本条件下，总体均值在（1-α）置信水平下的置信区间可以写为（ ） A. n z x 22/σα± B. n s t x 2/α± C . n z x σα2/± D. n
s z x 22/α± 17.正态总体方差未知时，在小样本条件下，总体均值在（1-α）置信水平下的置信区间可以写为（ ） A. n z x 22/σα± B . n s t x 2/α± C. n z x σα2/± D. n
s z x 22/α± 18. 在进行区间估计时，若要求的置信水平为90%，则其相应的临界值为（ ）
B.1.96
C.
D.
19.在其他条件相同的条件下，95%的置信区间比90%的置信区间（ ）
A .要宽 B.要窄 C.相同 D. 可能宽也可能窄
20.指出下面的说法哪一个是正确的（ ）
A .置信水平越大，估计的可靠性越大 B. 置信水平越大，估计的可靠性越小 C. 置信水平越小，估计的可靠性越大 D. 置信水平的大小与估计的可靠性无关
21. 指出下面的说法哪一个是正确的（ ）
A .样本量越大，样本均值的抽样标准误差就越小
B. 样本量越大，样本均值的抽样标准误差就越大
C. 样本量越小，样本均值的抽样标准误差就越小
D.样本均值的抽样标准误差与样本量无关
22. 一项调查表明，有33%的被调查者认为她们所在的公司十分适合女性工作。假定总体比例为33%，取边际误差分别为10%，5%，2%，1%，在建立总体比例95%的置信区间时，随着边际误差的减少，样本量会（ ）
A.减少 B . 增大 C. 可能减少也可能增大 D. 不变
二． 填空题
1. 若从一总体中抽取一个样本，样本容量为n,其95%的置信区间为（a, b ）,则其样本均
值为_________, 若总体方差已知，则该总体方差为_____________________。若总体方差未知，且样本量为15，则其样本均值为______，样本方差为_____________________。若总体方差未知，且样本量为30，则其样本均值为______，样本方差为_____________________。若增加样本容量置信区间会变_____________________。
2. 一总体服从正态分布，并且方差已知。从其中抽取的一样本容量为25，在95%的置信水
平下区间估计的边际误差为15，那么总体标准差是_____________________。
3. 一总体方差已知，对总体均值进行区间估计时，所用的样本容量为150。当要求边际误
差从30减少到20，置信水平不变，则样本容量应取_____________________。
4. 根据以往的经验，某乡农户的年收入分布曲线是一个严重偏斜的非对称曲线。现随机抽
取25户进行调查，他们的户均年收入为13200元。为了估计该乡农户的户均年收入，能否根据上述数据求得一个置信度为95%的置信区间？给出回答，并说明理由__________________________________________________________________________。
5. 某企业根据对顾客随机抽样的样本信息推断：对本企业产品表示满意的顾客比例的95%
的置信水平的置信区间是（56%，64%）。试判断下列说法正确与否。
（1） 总体比例的95%的置信水平的置信区间是（56%，64%）。______________
（2） 总体真实比例有95%的可能落在（56%，64%）中。______________
（3） 区间（56%，64%）有95%的概率包含了总体真实比例。______________
（4） 在100次抽样得到的100个置信区间中，约有95个覆盖了总体真实比例。_____
6. 有50个调查者分别对同一个正态总体进行抽样，样本容量都是100，总体方差未知。它
们分别根据各自的样本数据得到总体均值的一个置信度90%的置信区间。试问：
（1） 这些置信区间中应该大约有_______________区间会覆盖总体均值。
（2） 这些置信区间的中心相同吗？给出回答，并说明理由
__________________________________________________________________。
（3） 这些置信区间的宽度完全相同吗？给出回答，并说明理由
__________________________________________________________________。 1. 2b a + ， 025.0224)(z n a b **- 。 2
b a + ， )14(415)(025.022t a b *?-。 2
b a + ， 025.022430)(z a b **-。 变小 2. 27.3896
.15*15025.0==*=z n E σ 3. 338， 理由：当E=30,n=150时，可得,150*30**2/==n E z σα当E 变为20时，总体标准
差不变，置信水平不变，因此σα*2/z 不变。由3385.337400
150*900)*(222/≈===E z n σα 4.不能。对于分布形态未知或严重偏斜的总体，不能根据正态分布来构造总体均值的置信区间，除非样本量非常大。但本例中的样本是个小样本。
5.（1）正确。（2）、（3）不正确。因为总体比例和所求区间都是确定的，不存在随机性，不
涉及概率。（4）正确，这是对置信区间的正确理解。
6.（1）45个
（2）这些置信区间的中心不完全相同，因为置信区间是以样本估计值为中心的，不同的抽样会有不同的样本均值。
（3）不完全相等。因为总体的标准差未知，边际误差根据样本标准差来计算的，而各个样本的标准差有可能不等。
三．计算题
1.为了解某银行营业厅办理某业务的办事效率，调查人员观察了该银行营业厅办理该业务的柜台办理每笔业务的时间，随机记录了16名客户办理业务的时间，测得平均办理时间为12分钟，样本标准差为分钟，假定办理该业务的时间服从正态分布，则：
（1）此银行办理该业务的平均时间的置信水平为95％的区间估计是什么？
（2）若样本容量为40，而观测的数据的样本均值和样本标准差不变，则置信水平为95％的置信区间是什么？
解：（1）由已知可得办理该业务的时间服从正态分布，总体的标准差未知，n=16<30 是小样本。1.4,12==s x ，1-=95%，1314.2)15(025.0=t ,
)18.14,82.9(18.21216
1.4*1314.21215(025.0=±=±=±n s t x ） 此银行办理该业务的平均时间的置信水平为95％的区间估计是分钟到分钟。
（2）由已知可得办理该业务的时间服从正态分布，总体的标准差未知，n=40>30 是大样本。1.4,12==s x ，1-=95%，=
)27.13,73.10(27.11240
1.4*96.112025.0=±=±=±n s z x 若样本容量为40，而观测的数据的样本均值和样本标准差不变，则置信水平为95％的置信区间是分钟到分钟。
2.据一次抽样调查表明，居民每日平均读报时间的95%的置信区间为[, ]小时，问该次抽样样本平均读报时间x 是多少？若样本容量为100，则样本标准差是多少？若想将边际误差降为小时，那么在相同的置信水平下，样本容量应该为多少？ 样本的平均读报时间为8.22
4.32.2=+=x 由06.396
.1*2100*)2.24.3(22.24.3025
.0=-=-==s n s z E 得：
2254.006.396.12
2
222025.02=?=?=E s z n
3.一家调查公司进行一项调查，其目的是为了了解某市电信营业厅大客户对该电信的服务的满意情况。调查人员随机访问了30名去该电信营业厅办理业务的大客户，发现受访的大客户中有9名认为营业厅现在的服务质量比两年前好。试在95%的置信水平下对大客户中认为营业厅现在的服务质量比两年前好的比例进行区间估计。
这是一个求某一属性所占比例的区间估计的问题。已知n=30，z α/2=。根据样本的抽样结果计算出样本比例为p=9/30=30%。
总体比例的置信水平为95%的置信区间为
%)40.46%,60.13(30
%70*%30*96.1%30)1(2=±=-±n p p z p α
5%的置信水平下对大客户中认为营业厅现在的服务质量比两年前好的比例的区间估计为%~%。
4.为了确定某大学学生配戴眼镜的比例，调查人员欲对该大学的学生进行抽样调查。而根据以往的调查结果表明，该大学有75%的学生配戴眼镜。则对于边际误差E 分别为5%，10%，置信水平都为95%，抽取的样本量各为多少合适根据估计总体比例时样本容量的确定公式为
2
22/)1(*)(E z n ππα-= 这里z α/2= =，π=
（1） 当边际误差E=时，n=289
（2） 当边际误差E=时，n=73
极大似然参数辨识方法
2 极大似然参数辨识方法 极大似然参数估计方法是以观测值的出现概率为最大作为准则的，这是一种很普遍的参数估计方法，在系统辨识中有着广泛的应用。 2.1 极大似然原理 设有离散随机过程}{k V 与未知参数θ有关，假定已知概率分布密度)(θk V f 。如果我们得到n 个独立的观测值,21,V V …n V ,，则可得分布密度)(1θV f ，)(2θV f ，…,)(θn V f 。要求根据这些观测值来估计未知参数θ，估计的准则是观测值{}{k V }的出现概率为最大。为此，定义一个似然函数 ) ()()(),,,(2121θθθθn n V f V f V f V V V L = （2.1.1） 上式的右边是n 个概率密度函数的连乘，似然函数L 是θ的函数。如果L 达到极大值，}{k V 的出现概率为最大。因此，极大似然法的实质就是求出使L 达到极大值的θ的估值∧ θ。为了便于求∧ θ，对式（2.1.1）等号两边取对数，则把连乘变成连加，即 ∑== n i i V f L 1)(ln ln θ （2.1.2） 由于对数函数是单调递增函数，当L 取极大值时，lnL 也同时取极大值。求式（2.1.2）对θ的偏导数，令偏导数为0，可得 0ln =??θL （2.1.3） 解上式可得θ的极大似然估计ML ∧ θ。 2.2 系统参数的极大似然估计 设系统的差分方程为 )()()()()(1 1 k k u z b k y z a ξ+=-- （2.2.1） 式中 111()1...n n a z a z a z ---=+++ 1101()...n n b z b b z b z ---=+++ 因为)(k ξ是相关随机向量，故（2.2.1）可写成 )()()()()()(1 11k z c k u z b k y z a ε---+= （2.2.2） 式中 )()()(1 k k z c ξε=- （2.2.3） n n z c z c z c ---+++= 1 11 1)( （2.2.4） )(k ε是均值为0的高斯分布白噪声序列。多项式)(1-z a ，)(1-z b 和)(1-z c 中的系数n n c c b b a a ,,,,,10,1和序列)}({k ε的均方差σ都是未知参数。 设待估参数
3-第7章 统计学 参数估计 练习题
第7章参数估计 练习题 一、填空题（共10题，每题2分，共计20分） 1．参数估计就是用_______ __去估计_______ __。 2. 点估计就是用_______ __的某个取值直接作为总体参数的_______ __。3．区间估计是在_______ __的基础上，给出总体参数估计的一个区间范围，该区间通常由样本统计量加减_______ __得到。 4. 如果将构造置信区间的步骤重复多次，置信区间中包含总体参数真值的次数所占的比例称为_______ __，也成为_______ __。 5．当样本量给定时，置信区间的宽度随着置信系数的增大而_______ __；当置信水平固定时，置信区间的宽度随着样本量的增大而_______ __。 6. 评价估计量的标准包含无偏性、_______ __和_______ __。 7. 在参数估计中，总是希望提高估计的可靠程度，但在一定的样本量下，要提高估计的可靠程度，就会_______ __置信区间的宽度；如要缩小置信区间的宽度，又不降低置信程度，就要_______ __样本量。 8. 估计总体均值置信区间时的估计误差受总体标准差、_______ __和_______ __的影响。 9. 估计方差未知的正态总体均值置信区间用公式_______ __；当样本容量大于等于30时，可以用近似公式_______ __。 10. 估计正态总体方差的置信区间时，用_____ __分布，公式为______ __。 二、选择题（共10题，每题1分，共计10分） 1．根据一个具体的样本求出的总体均值的95%的置信区间 ( )。 A．以95%的概率包含总体均值 B．有5%的可能性包含总体均值 C．一定包含总体均值 D. 要么包含总体均值，要么不包含总体均值 2．估计量的含义是指( )。
参数估计练习题
第七章参数估计练习题 一．选择题 1.估计量的含义是指（） A.用来估计总体参数的统计量的名称 B.用来估计总体参数的统计量的具体数值 C．总体参数的名称 D．总体参数的具体取值 2．一个95%的置信区间是指（） A.总体参数有95%的概率落在这一区间内 B.总体参数有5%的概率未落在这一区间内 C. 在用同样方法构造的总体参数的多个区间中，有95%的区间包含该总体参数。 D.在用同样方法构造的总体参数的多个区间中，有95%的区间不包含该总体参数。 %的置信水平是指（） A.总体参数落在一个特定的样本所构造的区间内的概率是95% B．在用同样方法构造的总体参数的多个区间中，包含总体参数的区间比例为95% C．总体参数落在一个特定的样本所构造的区间内的概率是5% D．在用同样方法构造的总体参数的多个区间中，包含总体参数的区间比例为5% 4.根据一个具体的样本求出的总体均值的95%的置信区间（） A．以95%的概率包含总体均值 B．有5%的可能性包含总体均值 C.一定包含总体均值 D．要么包含总体均值，要么不包含总体均值 5. 当样本量一定时，置信区间的宽度（） A.随着置信水平的增大而减小 B. .随着置信水平的增大而增大 C．与置信水平的大小无关 D。与置信水平的平方成反比 6.当置信水平一定时，置信区间的宽度（） A.随着样本量的增大而减小 B. .随着样本量的增大而增大 C．与样本量的大小无关 D。与样本量的平方根成正比 7.在参数估计中，要求通过样本的统计量来估计总体参数，评价统计量的标准之一是使它与总体参数的离差越小越好。这种评价标准称为（） A．无偏性 B.有效性 C. 一致性 D. 充分性 8. 置信水平（1-α）表达了置信区间的（） A．准确性 B. 精确性 C. 显著性D. 可靠性 9. 在总体均值和总体比例的区间估计中，边际误差由（） A．置信水平决定 B. 统计量的抽样标准差确定 C. 置信水平和统计量的抽样标准差 D. 统计量的抽样方差确定 10. 当正态总体的方差未知，且为小样本条件下，估计总体均值使用的分布是（） A.正态分布 B. t分布 C.χ2分布 D. F分布 11. 当正态总体的方差未知，且为大样本条件下，估计总体均值使用的分布是（）
实验6 数据拟合及参数辨识方法
实验6 数据拟合及参数辨识方法 一、实验目的及意义 [1] 了解最小二乘拟合的基本原理和方法； [2] 掌握用MATLAB作最小二乘多项式拟合和曲线拟合的方法； [3] 通过实例学习如何用拟合方法解决实际问题，注意与插值方法的区别。 [4] 了解各种参数辨识的原理和方法； [5] 通过范例展现由机理分析确定模型结构，拟合方法辨识参数，误差分析等求解实 际问题的过程； 通过该实验的学习，掌握几种基本的参数辨识方法，了解拟合的几种典型应用，观察不同方法得出的模型的准确程度，学习参数的误差分析，进一步了解数学建模过程。这对于学生深入理解数学概念，掌握数学的思维方法，熟悉处理大量的工程计算问题的方法具有十分重要的意义。 二、实验内容 1．用MATLAB中的函数作一元函数的多项式拟合与曲线拟合，作出误差图； 2．用MATLAB中的函数作二元函数的最小二乘拟合，作出误差图； 3．针对预测和确定参数的实际问题，建立数学模型，并求解。 三、实验步骤 1．开启软件平台——MATLAB，开启MATLAB编辑窗口； 2．根据各种数值解法步骤编写M文件 3．保存文件并运行； 4．观察运行结果(数值或图形)； 5．根据观察到的结果写出实验报告，并浅谈学习心得体会。 四、实验要求与任务 根据实验内容和步骤，完成以下具体实验，要求写出实验报告（实验目的→问题→数学模型→算法与编程→计算结果→分析、检验和结论→心得体会） 应用实验 1．旧车价格预测 某年美国旧车价格的调查资料如下表，其中x i表示轿车的使用年数，y i表示相应的平均价格。试分析用什么形式的曲线来拟合上述的数据，并预测使用4.5年后轿车的平均价
系统辨识与全参数估计习题
系统辨识与参数估计课程习题 一、 选择题：答案唯一，在（ ）填入正确答案的编号。 1. 对于批量最小二乘格式L L L E Y +θΦ=，其最小二乘无偏估计的必要条件是（ ）。 A. 输入序列}{k u 为“持续激励”信号 B. L E 与T L L T L ΦΦΦ-1)(正交 C. L E 为非白噪声向量 D. 0}{=L E E 2. 对象模型为T k k k y e ?θ=+时，采用递推最小二乘估计后的残差序列的计算式为 （ ）。 A. 1?T k k k k y ε?θ-=- B. 1?T k k k k y ε?θ-=- C. ?T k k k k y ε?θ=- D. 11?T k k k k y ε?θ--=- 3. 在上题的条件下，递推最小二乘算法中的增益矩阵k K 可以写成（ ）。 A. 11k k P ?-- B. 1k k P ?- C. 1k k P ?- D. k k P ? 4. 可以同时得到对象参数和干扰噪声模型参数的估计算法是（ ）。 A. 辅助变量法 B. 广义最小二乘法 C. 最小二乘限定记忆法 D. 相关最小二乘两步法 5. 增广最小二乘估计的关键是（ ）。 A. 将控制项增广进k ?中，并用残差项取代进行估计 B. 将输出项增广进k ?中，并用残差项取代进行估计 C. 将噪声项增广进k ?中，并用残差项取代进行估计 D. 将噪声项增广进k ?中，并用输出项取代进行估计 答案：1. B 2. C 3. D 4. B 5. C ■ 二、 判断题：以○表示正确或×表示错误。
1．估计残差平方和最小是确定辨识过程对象结构的唯一标准。（ ） 2．最小二乘估计的批量算法和递推算法在数学上是等价的。（ ） 3．广义最小二乘法就是辅助变量法和增广最小二乘法交替试用。（ ） 4．在递推最小二乘算法中，若置0>==T k P P P ，则该算法也能克服“数据饱和” 现象，进而可适用于时变系统。（ ） 5．用神经网络对SISO 非线性系统辨识，采用的是输入层和输出层均为一个神经元的三层前馈神经元网络结构。（ ） 答案： 1. × 2. ○ 3. × 4. ○ 5. × ■ 三、 设y 和n 21x ,x ,x 之间满足关系)x a x a x a (ex p y n n 2211+++= ，试图利用y 和 n 21x ,x ,x 的观测值来估计参数n 21a ,a ,a ，请将该模型化成最小二乘格式。 答案：θ?T n n 2211x a x a x a ln(y)z =+++== 其中，[][]n 21T n 21T x ,,x ,x a ,,a ,a ==?θ ■ 四、 对于多输入单输出（MISO ）系统可由下面的模型描述 k k k e u z B y z A +=---111)()( 其中，k u 为系统的m ×1维输入向量；k y 为系统的标量输出；k e 为标量i.i.d 随机噪 声；1 -z 为延迟算子，即11--=k k y y z ；)(1-z A 为标量参数多项式，)(1-z B 为1×m 的 参数多项式向量： a a n n z a z a z A ---+++= .1)(111 b b n n z B z B B z B ---+++= .)(1101 请写出：最小二乘递推算法公式和计算步骤或流程。 答案： 根据题意，可写出最小二乘格式为： k T k k e y +=θ? 其中， []T n k T k T k n k k k T k b a u u u y y y 12121,,;,,----------= ? 1201,,,;,,,a b T n n a a a B B B θ??=?? 因此，采用批量最小二乘法估计时，设采集数据时刻为k=1,2,…,L ，则有批量最小二乘格式为：
第六章、参数估计解答
第六章、参数估计 四、计算题： 1．解：因为总体X 的概率密度 1 ,0(,)0,x f x θθθ?<
12 222 11 111() n i i n n i i i i X X n X X X X n n μσ===?==?? ? ?=-= -?? ∑∑∑ 而μ及2 σ的矩估计值就是 122111()n i i n i i x x n x x n μσ==?==?? ??=-?? ∑∑ 3．解：因为总体X 的概率分布 (,),0,1,2,! x p x e x x λ λ λ-= = 中只有一个未知参数λ，所以只需考虑总体X 的一阶原点矩 1 .! x x X E X x e x λ λ νλ∞ -===? =∑（）（） 用样本一阶原点矩11 1 n i i V X n == ∑作为总体一阶原点矩 1 X ν（）的估计量，即有 11n i i X n λ== ∑ 由此解得λ的矩估计量 11n i i X X n λ ===∑ ， 而λ的矩估计值就是 1 1n i i x x n λ ===∑ 4．解：由于总体X 服从正态分布2 N μσ（，） ，即 2 2()2(),x u f x x σ --=-∞<<+∞ 故似然函数为 2 2 2 2 1 ()21 1() 2(,)i n i i x n i x n L e μσ μσ μσ=-- =- -= ∑=∏
系统辨识最小二乘参数估计matlab
最小二乘参数估计 摘要： 最小二乘的一次性完成辨识算法（也称批处理算法），他的特点是直接利用已经获得的所有（一批）观测数据进行运算处理。这种算法在使用时，占用内存大，离线辨识，观测被辨识对象获得的新数据往往是逐次补充到观测数据集合中去的。在应用一次完成算法时，如果要求在每次新增观测数据后，接着就估计出系统模型的参数，则需要每次新增数据后要重新求解矩阵方程()Z l T l l T l ΦΦΦ-∧=1θ。 最小二乘辩识方法在系统辩识领域中先应用上已相当普及，方法上相当完善，可以有效的用于系统的状态估计，参数估计以及自适应控制及其他方面。 关键词： 最小二乘（Least-squares ），系统辨识（System Identification ） 目录： 1.目的 (1) 2.设备 (1) 3引言 (1) 3.1 课题背景 (1) 4数学模型的结构辨识 (2) 5 程序 (3) 5.1 M 序列子函数 ................................................................................. 错误！未定义书签。 5.2主程序............................................................................................... 错误！未定义书签。 6实验结果： ................................................................................................................................... 3 7参考文献： ................................................................................................. 错误！未定义书签。 1.目的 1.1掌握系统辨识的理论、方法及应用 1.2熟练Matlab 下最小二乘法编程 1.3掌握M 序列产生方法 2.设备 PC 机1台（含Matlab 软件） 3引言 3.1 课题背景 最小二乘理论是有高斯（K.F.Gauss ）在1795年提出：“未知量的最大可能值是这样一个数值，它使各次实际观测值和计算值之间的差值的平方乘以度量其精度的数值以后的和最小。”这就是最小二乘法的最早思想。 最小二乘辨识方法提供一个估算方法，使之能得到一个在最小方差意义上与实验数据最
七参数估计作业
第七章 参数估计 (一) 习题 1. 设是来自总体n X X ,,1 X 的一个样本,求下述各总体的概率密度或分布律中的未知参 数的矩估计量 (1) 其中? ??<<+=其它,010,)1()(x x x f θθ1?>θ是未知参数; (2) 其中 2,1,)1(}{1=?==?x p p x X P x 10<
θ为未知参数; (4) ?????≤≤=?其他 ,0,10,),(1x x x f θθθ, 其中0>θ为未知参数; (5) ?? ???>??=其它,0},exp{1),;(121221θθθθθθx x x f (6) σσ σ||21),(x e x f ?=, 其中0>σ为未知参数. 2. 求上题中各未知参数的极大似然估计量. 3. 设总体X 服从参数为的二项分布: p m ,m x p p x m x X P x m x ,,2,1,0,)1(}{…=???? ?????==?, 10<
系统全参数辨识+matlab+实现
实用标准文案 4. 设某物理量Y 与X 满足关系式Y=aX 2+bX+c ，实验获得一批数据如下表，试辨识模型参数a ，b 和c 。（50分） 报告要求：要有问题描述、参数估计原理、程序流程图、程序清单，最后给出结果及分析。 (1)问题描述： 由题意知，这是一个已知模型为Y=aX 2+bX+c ，给出了10组实验输入输出 数据，要求对模型参数a ，b ，c 进行辨识。这里对该模型参数辨识采用递推最小二乘法。 (2)参数估计原理 对该模型参数辨识采用递推最小二乘法，即RLS （ recurisive least square ）， 它是一种能够对模型参数进行在线实时估计的辨识方法。 其基本思想可以概括为：新的估计值)(?k θ =旧的估计值)1(?-k θ+修正项 下面将批处理最小二乘法改写为递推形式即递推最小二乘参数估计的计算方法。 批处理最小二乘估计θ ?为Y T T ΦΦΦ=-1)(?θ，设k 时刻的批处理最小二乘估计为： k T k k T k Y ΦΦΦ=-1)(?θ令111)]1()()1([)()(----+-=ΦΦ=k k k P k P T k T k ?? K 时刻的最小二乘估计可以表示为 k T k Y k P k Φ=)()(?θ=)]()()[(11k y k Y k P k T k ?+Φ-- =)]1(?)()()[()1(? --+-k k k y k K k T θ ?θ ；式中)()()(k k P k K ?=，因为要推导出P(k)和K(k)的递推方程，因此这里介绍一下矩阵求逆引理：设A 、（A+BC ）和
()[()()](1)T P k I K k k P k ?=-- ② (1)() ()1()(1)()T P k k K k k P k k ???-= +- ③ （3)程序流程图 (如右图1所示） 递推最小二乘法（RLS ）步骤如下： 已知：a n 、b n 和d 。 Step 1 ：设置初值)0(?θ 和P(0)，输入初始数据； Step2 ：采样当前输出y(k)、和输入u(k) Step3 ：利用上面式①②③计算 )(k K 、)(?k θ和)(k P ； Step4 ：k →k+1，返回step2，继续循环。 图1 程序流程 图 (4) Matlab 仿真程序、输出参数估计值、 参数估计变化轨迹图像、结果分析
极大似然参数辨识方法
极大似然参数辨识方法-CAL-FENGHAI.-(YICAI)-Company One1
2 极大似然参数辨识方法 极大似然参数估计方法是以观测值的出现概率为最大作为准则的，这是一种很普遍的参数估计方法，在系统辨识中有着广泛的应用。 极大似然原理 设有离散随机过程}{k V 与未知参数θ有关，假定已知概率分布密度 )(θk V f 。如果我们得到n 个独立的观测值,21,V V …n V ,，则可得分布密度 )(1θV f ，)(2θV f ，…,)(θn V f 。要求根据这些观测值来估计未知参数θ，估计的准则是观测值{}{k V }的出现概率为最大。为此，定义一个似然函数 ) ()()(),,,(2121θθθθn n V f V f V f V V V L = （2.1.1） 上式的右边是n 个概率密度函数的连乘，似然函数L 是θ的函数。如果L 达到极大值，}{k V 的出现概率为最大。因此，极大似然法的实质就是求出使L 达到极大值的θ的估值∧θ。为了便于求∧ θ，对式（2.1.1）等号两边取对数，则把连乘变成连加，即 ∑==n i i V f L 1)(ln ln θ （2.1.2） 由于对数函数是单调递增函数，当L 取极大值时，lnL 也同时取极大值。求式（2.1.2）对θ的偏导数，令偏导数为0，可得 0ln =??θL （2.1.3） 解上式可得θ的极大似然估计ML ∧ θ。 系统参数的极大似然估计 设系统的差分方程为 )()()()()(11k k u z b k y z a ξ+=-- （2.2.1） 式中 111()1...n n a z a z a z ---=+++ 1101()...n n b z b b z b z ---=+++ 因为)(k ξ是相关随机向量，故（2.2.1）可写成 )()()()()()(111k z c k u z b k y z a ε---+= （2.2.2） 式中 )()()(1k k z c ξε=- （2.2.3） n n z c z c z c ---+++= 1111)( （2.2.4）
概率统计第七章参数估计参考答案
概 班级 姓名 学号 任课教师 第七章 参数估计 教学要求： 一、理解点估计的概念，了解矩估计法和极大似然估计法； 二、了解无偏性、有效性、一致性等估计量的评判标准； 三、理解区间估计的概念，会求单个正态总体均值与方差的置信区间，会求两个正态总体均值差与方差比的置信区间． 重点：极大似然估计法、矩估计法． 难点：置信区间的定义及求法． 习题一 点估计 1.随机抽取8只活塞环，测得它们的直径（单位：mm ）为： 74.001， 74.005， 74.003， 74.001， 74.000， 73.998， 74.006， 74.002 试求总体均值μ与总体方差2σ的矩估计值，并求样本方差2 s ． 解：总体的一、二阶原点矩分别为： ()μ=X E ， () ()()[]222 2μσ+=+=X E X D X E ； 样本的一、二阶中心矩分别为： X X n A n i i ==∑=111， ∑==n i i X n A 1 2 21； 由矩估计法有 ()X A X E ===∧ ∧ 1μ, ()22 2 2 A X E =+=∧∧ ∧ μσ , 即 X =∧ μ， () ∑∑==∧∧ -=-=-=n i i n i i X X n X X n A 12 2122 22 11μσ 由题中所给数据得 001.74=∧ μ， 52 10388.1-∧?=σ
2.设总体X 的密度函数为，()??? ??≤>=-;0, 0,0,1x x e x f x θθ 其中θ0>是未知参数，求θ的矩 估计． 解：因为 ()θθ θ=== - ∞ +∞ +∞ -? ? dx e x dx x xf X E x 1 )( 则 X =∧ θ. 3.设总体X 服从泊松分布，其分布律为λλ-==e x x X P x ! }{， ,2,1=x ．试求未知参 数λ)0(>λ的矩估计． 解：因为 λλλλλλλ λ λ λ =-=-=? =? =∑∑ ∑∑∞ =---∞ =-∞ =∞ =-1 1 11 )!1()! 1(! ! )(x x x x x x x x x e e x e x x x e x X E ， 故 X =∧ λ. 4.设总体X 的密度函数为：σ σ x e x f -=21)( ，)(+∞<<-∞x 求参数σ)0(>σ的最大似然估计． 解：似然函数为 ()σ σσσ σ∑=∏==---=n i i i x n x n i e e L 1 221)(1， σ σσ∑=- -=n i i x n L 1 )2ln()(ln ， 对σ求导得似然方程 01 )(ln 1 2 =+-=∑=n i i x n d L d σ σσσ 求得σ的最大似然估计为 ∑=∧ =n i i ML x n 1 1σ. 5.已知某种白炽灯泡的使用寿命服从正态分布，其分布参数均未知．在某个星期所生产的这种灯泡中随机抽取10只，测得其寿命（单位：小时）为： 1067， 919， 1196， 785， 1126， 936， 918， 1156， 920， 948. 试用最大似然估计法估计这个星期中生产的灯泡能使用1300小时以上的概率．
动力学系统辨识
系统是由内部相互联系、相互制约、相互作用的要素构成，具有整体功能和综合行为的统一体，整体性是系统最基本的特性，同时系统接受外部因素的制约和作用。 系统建模就是建立表征系统状态参数之间以及与外作用之间的相互作用的数学表达式的过程。系统建模是系统分析和研究的基础，能够反映系统本质特性的模型建立后，可以借助数学分析，数值模拟，计算仿真等手段开展系统分析，从而实现对系统的合理设计和有效控制。 系统建模有两类方法：理论建模和实验建模。理论建模是指从已知的定理，原理和定律出发，对系统的内在规律进行系统分析和研究从而建立起系统的数学模型。实验建模是直接从系统运行或试验中测量到数据，应用系统辨识方法建立系统模型。 系统辨识的作用是研究如何建立系统数学模型。 辨识三要素:数据、模型类和准则。辨识就是按照一个准则在一组模型类中寻找一个与数据拟合得最好的模型。辨识准则有：最小二乘准则：最小方差准则、最大似然准则、贝叶斯准则、H无穷准则等辨识算法。对于给定的候选数学模型集，根据辨识准则建立辨识方程组之后，系统辨识问题就化成了一个极值优化计算问题。对于线性系统，可应用最小二乘准则，对于非线性系统常采用迭代算法求解;也可用逐点递推逼近算法求解。 系统辨识分为离线辨识和在线辨识两种。离线辨识也称事后处理，先将实验过程中输入一输出数据记录下来，实验结束后再进行辨识。由于时间较充裕，记录的信息一般较多，可以适用较复杂的建模问题。优点：估计模型参数精度高，缺点：要求存储量大，运算量大，计算时间长。在线辨识，即在系统运行中边测量边辨识，一般将辨识结果直接用于系统控制，要求处理信息速度较快，通常采用递推算法，不断用新的测量数据修正当时的估计值。由于计算机处理过程比较耗时，目前还主要用于简单模型的建摸。优点：计算量小，适合实时控制和自适应控制。缺点：辨识精度较差。 系统分析是己知系统的数学模型，研究系统对各种外作用的响应历程和表现特性:系统辨识则是反过来，从已经测量出的外作用和响应历程确定系统的数学模型;通常在控制论中称系统分析为正问题，系统辨识是反问题。 系统辨识的目的是系统建模，经常将系统辨识与系统建模合并简称为系统辨识。系统辨识的四个方面的研究内容:试验设计、模型结构辨识、模型参数辨识、模型检验。 系统辨识过程:根据辨识的目的，利用先验知识初步确定模型结构;设计实验方案，采集数据:进行模型结构和参数辨识:最后经过验证获得符合要求的模型。 由于动力学系统本身的复杂性、试验环境对测量系统干扰和试验设计的不完善，输入和输出数据不可避免地含有确定性误差和随机误差，有些情况下还可能出现部分数据未采集等现象，这些误差和异常情况必然要影响辨识算法的计算和建立模型的精度，使辨识过程发散或收敛错误的值。这些误差和异常情况是辨识算法本身无法消除的，因此一般在采用实测数据辨识前都要进行相容性检验、剔除高频成分、可辨识性分析、确定估算初值和数据重构等预处理。
[优质文档]第7章参数估计习题及答案
第7章 参数估计 ----点估计 一、填空题 1、设总体X 服从二项分布),(p N B ，10<
α是未知参数， n X X X ,,21为一个样本，试求参数α的矩估计和极大似然估计. 解：因? ?++=+= 10 1 1α1α1αdx x dx x x X E a )()()(2 α1 α2α1α102++= ++= +|a x 令2 α1α ++==??)(X X E X X --=∴112α ?为α的矩估计 因似然函数1212 (,, ;)(1)()n n n L x x x x x x ααα=+ ∑=++=∴n i i X n L 1 α1αln )ln(ln ，由∑==++=??n i i X n L 101ααln ln 得， α的极大似量估计量为)ln (?∑=+-=n i i X n 1 1α 2、设总体X 服从指数分布 ,0 ()0, x e x f x λλ-?>=??其他 ，n X X X ,,21是来自X 的样本，（1） 求未知参数λ的矩估计；（2）求λ的极大似然估计.
系统辨识研究的现状_徐小平
系统辨识研究的现状 徐小平1,王 峰2,胡 钢1 (1.西安理工大学自动化与信息工程学院 陕西西安 710048;2.西安交通大学理学院 陕西西安 710049) 摘 要:综述了系统辨识问题的研究进展,介绍了经典的系统辨识方法及其缺点,引出了将集员、多层递阶、神经网络、遗传算法、模糊逻辑、小波网络等知识应用于系统辨识得到的一些现代系统辨识方法,最后总结了系统辨识今后的发展方向。 关键词:系统辨识;集员;多层递阶;神经网络;遗传算法;模糊逻辑;小波网络 中图分类号:TP27 文献标识码:B 文章编号:1004-373X (2007)15-112-05 A Survey on System Identif ication XU Xiaoping 1,WAN G Feng 2,HU Gang 1 (1.School of Automation and Information Engineering ,Xi ′an University of Technology ,Xi ′an ,710048,China ; 2.School of Science ,Xi ′an Jiaotong University ,Xi ′an ,710049,China ) Abstract :In this paper the advance in the study of system identification is summarized.First ,the traditional system identi 2fication methods and their disadvantages are introduced.Then ,some new methods based on set membership ,multi -level re 2cursive ,neural network ,genetic algorithms ,f uzzy logic and wavelet network are presented.Finally ,f urther research directions of system identification are pointed out. K eywords :system identification ;set membership ;multi -level recursive ;neural network ;genetic algorithms ;f uzzy logic ;wavelet network 收稿日期:2007-04-16 基金项目:教育部博士学科基金(20060700007); 陕西省自然科学基金(2005F15)资助项目 1 引 言 辨识、状态估计和控制理论是现代控制理论三个互相渗透的领域。辨识和状态估计离不开控制理论的支持,控制理论的应用又几乎不能没有辨识和状态估计技术。随着控制过程复杂性的提高,控制理论的应用日益广泛,但其实际应用不能脱离被控对象的数学模型。然而在大多数情况下,被控对象的数学模型是不知道的,或者在正常运行期间模型的参数可能发生变化,因此利用控制理论去解决实际问题时,首先需要建立被控对象的数学模型。系统辨识正是适应这一需要而形成的,他是现代控制理论中一个很活跃的分支。社会科学和自然科学领域已经投入相当多的人力和物力去观察、研究有关的系统辨识问题。从1967年起,国际自动控制联合会(IFAC )每3年召开一次国际性的系统辨识与参数估计的讨论会。历届国际自动控制联合会的系统辨识会议均吸引了众多的有关学科的科学家和工程师们的积极参加。 系统辨识是建模的一种方法,不同的学科领域,对应 着不同的数学模型。从某种意义上来说,不同学科的发展过程就是建立他的数学模型的过程。1962年,L.A.Zadeh 给出辨识这样的定义[1]:“辨识就是在输入和输出数据的基础上,从一组给定的模型类中,确定一个与所测系统等价的模型。”当然按照Zadeh 的定义,寻找一个与实际过程完全等价的模型无疑是非常困难的。而从实用性观点出发,对模型的要求并非如此苛刻,为此,对辨识又有一些实用性的定义。比如,1974年,P.E.ykhoff 给出辨识的定义[2]为:“辨识问题可以归结为用一个模型来表示客观系统(或将要构造的系统)本质特征的一种演算,并用这个模型把对客观系统的理解表示成有用的形式。”1978年,L. Ljung 给辨识下的定义[3] 更加实用:“辨识有三个要素—数 据,模型类和准则。辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型。”总而言之,辨识的实质就是从一组模型类中选择一个模型,按照某种准则,使之能最好地拟合所关心的实际过程的静态或动态特性。 本文首先介绍了经典的系统辨识方法,并指出其存在的缺陷,接着对近年来系统辨识的现代方法作以简单的综述,最后指出了系统辨识未来的发展方向。2 经典的系统辨识 经典的系统辨识方法[4-6]的发展已经比较成熟和完 2 11
基于最小二乘法的系统参数辨识
基于最小二乘法的系统参数辨识 研究生二队李英杰 082068 摘要：系统辨识是自动控制学科的一个重要分支，由于其特殊作用，已经广泛应用于各种领域，尤其是复杂系统或参数不容易确定的系统的建模。过去，系统辨识主要用于线性系统的建模，经过多年的研究，已经形成成熟的理论。但随着社会、科学的发展，非线性系统越来越受到人们的关注，其控制与模型之间的矛盾越来越明显，因而非线性系统的辨识问题也越来越受到重视，其辨识理论不断发展和完善本。文重点介绍了系统参数辨识中最小二乘法的基本原理，并通过热敏电阻阻值温度关系模型的辨识实例，具体说明了基于最小二乘法参数辨识在Matlab中的实现方法。结果表明基于最小二乘法具有算法简单、精度较高等优点。 1. 引言 所谓辨识就是通过测取研究对象在人为输入作用下的输出响应，或正常运行时的输入输出数据记录，加以必要的数据处理和数学计算，估计出对象的数学模型。这是因为对象的动态特性被认为必然表现在它的变化着的输入输出数据之中，辨识只不过是利用数学的方法从数据序列中提炼出对象的数学模型而已[1]。最小二乘法是系统参数辨识中最基本最常用的方法。最小二乘法因其算法简单、理论成熟和通用性强而广泛应用于系统参数辨识中。本文基于热敏电阻阻值与温度关系数据，介绍了最小二乘法的参数辨识在Matlab中的实现。 2. 系统辨识 一般而言，建立系统的数学模型有两种方法：激励分析法和系统辨识法。前者是按照系统所遵循的物化（或社会、经济等）规律分析推导出模型。后者则是从实际系统运行和实验数据处理获得模型。如图1 所示，系统辨识就是从系统的输入输出数据测算系统数学模型的理论和方法。更进一步的定义是L.A.Zadeh 曾经与1962 年给出的，即“系统辨识是在输入和输出的基础上，从系统的一类系统范围内，确立一个与所实验系统等价的系统”。另外，系统辨识还应该具有3 个基本要素，即模型类、数据和准则[5]。被辨识系统模型根据模型形式可分为参数模型和非参数模型两大类。所谓参数模型是指微分方程、差分方程、状态方程等形式的数学模型；而非参数模型是指频率响应、脉冲响应、传递函数等隐含参数的数学模型。在辨识工程中，模型的确定主要根据经验对实际对象的特性进行一定程度上的假设，如对象的模型是线性的还是非线性的、是参数模型还是非参数模型等。在模型确定之后，就可以根据对象的输入输出数据，按照一定的辨识算法确定模型的参数[4]。 图1 被研究的动态系统 3. 最小二乘法（LS）参数估计方法 对于参数模型辨识结构，系统辨识的任务是参数估计，即利用输入输出数据估计这些参数，建立系统的数学模型。在参数估计中最常用的是最小二乘法(LS)、
考研资料_厦门大学卫生综合_卫生统计厦大内部习题集_第六章 参数估计基础
第六章参数估计基础习题 一、是非题 1．总体率的区间估计中， 值越大，置信度越低。( ) 2．样本率的标准误越小，抽样误差越大。( ) 3．对同一样本资料来说，总体均数的置信区间宽度通常会小于医学参考值范围的宽度。（） 4．置信度由99％下降到95％，置信区间估计的准确度也下降。( ) 5．在t值相同时，双侧概率正好是单侧格率的2倍。( ) 二、选择题 1．均数的标准误反映了( )。 A．个体变异程度B．集中趋势的位置 C．指标的分布特征D．样本均数与总体均数的差异 E．频数分布规律 2．用于描述均数的抽样误差大小的指标是( )。 A．S B．S C．CV D．R E．S2 3．抽样误差产生的原因是( )。 A．观察对象不纯B．非正态分布 C．个体差异D．非分类变量资料E．随机抽样方法错误4．均数95％置信任区间主要用于（）。 A．估计“正常人群”某指标95％观察值所在范围 B．反映总体均数有95％的可能在某范围内
C．反映某指标的可能取值范围 D．反映某措标的观察值波动范围 E．反映95％的样本均数在此范围内 5．以下关于参数估计的说法正确的是( )。 A．区间估计优于点估计B．样本含量越大，置信区间范围越大 C．样本含量越小，参数估计越精确D．对于一个参数可以获得几个估计值E．标准差大小与置信区间范围无关 三、筒答题 1．已知某地正常成年女性的平均空腹血糖值为 4.95mmol/L，标淮差为 1.03 mmol/L，某医疗机构从该地随机抽取40名正常成年女性，测得其平均空腹血糖值为5.17 mmol/L，试指出5.17 mmol/L与4.95 mmol/L不同的原因是什么？应该用什么指标来表示两者间的差别? 2．样本均数的抽样分布有哪些特点? 3．t分布与Z（标准正态分布）分布相比有什么特点?
第7章参数估计习题及答案精编版
第7章 参数估计 ----点估计 一、填空题 1、设总体X 服从二项分布),(p N B ，10<
α是未知参数， n X X X ,,21为一个样本，试求参数α的矩估计和极大似然估计. 解：因? ?++=+= 10 1 1α1α1αdx x dx x x X E a )()()(2 α1 α2α1α102++= ++= +|a x 令2α 1α ++==??)(X X E X X --=∴112α ?为α的矩估计 因似然函数1212 (,, ;)(1)()n n n L x x x x x x ααα=+ ∑=++=∴n i i X n L 1α1αln )ln(ln ，由∑==++=??n i i X n L 1 01ααln ln 得， α的极大似量估计量为)ln (?∑=+-=n i i X n 1 1α 2、设总体X 服从指数分布 ,0 ()0,x e x f x λλ-?>=?? 其他 ，n X X X ,,21是来自X 的样本，（1） 求未知参数λ的矩估计；（2）求λ的极大似然估计.