清华大学高等数值分析-第三次作业第八题复习过程
第三次作业第八题
取b=(1,1,1,...1)T,x0=0，停机准则为10-6。
1）当取A1=(a ij)=1/(i+j-1)时，取阶数n=50，m=20时，得到收敛曲线如下
结果表明，重启的GMRES算法没有重启就得到了非常精确的结果。这是由于该矩阵在n 较小时的数值正定特性有关。
取n=500 m=20计算结果如下，该图为重启次数与残差之间的关系曲线
可以看出，该方法重启100步都无法收敛到10-6。提高m的值为m=100，计算如下
从结果中可以看出，第一次计算（未重启）就得到了精确的结果。该方法是数值qi
下面将阶数增为1000，m=20计算如下
图中可以看出，重启的GMRES已经无法收敛，并且残差下降非常慢，没有再进行计算的必要。将m增为100，结果依然如前面，在一次重启就解出了结果。
2）当取A=A2
◆当n=100时，对该矩阵使用GMRES方法，迭代20步即得到结果。
使用GMRES(m)，当m=10时，重启一次即可得到类似精度的结果，与GMRES方法的迭代步数一致（但是GMRES(m)代价小）。
◆当n=500时，m=10时，重启一次得到结果，残差变化如下图
?当n=500时，m=10时，收敛速度与前一次相同，重启动一次即可得到结果
李庆扬数值分析第五版习题复习资料清华大学出版社
第一章 绪论 1．设0x >,x 的相对误差为δ，求ln x 的误差。 解：近似值* x 的相对误差为* **** r e x x e x x δ-= = = 而ln x 的误差为()1 ln *ln *ln ** e x x x e x =-≈ 进而有(ln *)x εδ≈ 2．设x 的相对误差为2%，求n x 的相对误差。 解：设()n f x x =，则函数的条件数为'() | |() p xf x C f x = 又1 '()n f x nx -=Q , 1 ||n p x nx C n n -?∴== 又((*))(*)r p r x n C x εε≈?Q 且(*)r e x 为2 ((*))0.02n r x n ε∴≈ 3．下列各数都是经过四舍五入得到的近似数，即误差限不超过最后一位的半个单位，试指 出它们是几位有效数字：*1 1.1021x =,*20.031x =, *3385.6x =, *456.430x =,* 57 1.0.x =? 解：* 1 1.1021x =是五位有效数字； *20.031x =是二位有效数字； *3385.6x =是四位有效数字； *456.430x =是五位有效数字； *57 1.0.x =?是二位有效数字。 4．利用公式(2.3)求下列各近似值的误差限：(1) ***124x x x ++,(2) ***123x x x ,(3) **24/x x . 其中**** 1234,,,x x x x 均为第3题所给的数。 解：
*4 1* 3 2* 13* 3 4* 1 51()1021()1021()1021()1021()102 x x x x x εεεεε-----=?=?=?=?=? *** 124***1244333 (1)()()()() 1111010102221.0510x x x x x x εεεε----++=++=?+?+?=? *** 123*********123231132143 (2)() ()()() 111 1.10210.031100.031385.610 1.1021385.610222 0.215 x x x x x x x x x x x x εεεε---=++=???+???+???≈ ** 24**** 24422 *4 33 5 (3)(/) ()() 11 0.0311056.430102256.43056.430 10x x x x x x x εεε---+≈ ??+??= ?= 5计算球体积要使相对误差限为1，问度量半径R 时允许的相对误差限是多少？ 解：球体体积为343 V R π= 则何种函数的条件数为 2 3'4343 p R V R R C V R ππ===g g (*)(*)3(*)r p r r V C R R εεε∴≈=g 又(*)1r V ε=Q
清华大学高等数值计算(李津)实践题目一(共轭梯度CG法,Lanczos算法与MINRES算法)
高等数值计算实践题目一 1. 实践目的 本次计算实践主要是在掌握共轭梯度法，Lanczos 算法与MINRES 算法的基础上，进一步探讨这3种算法的数值性质，主要研究特征值特征向量对算法收敛性的影响。 2. 实践过程 （一）生成矩阵 （1）作5个100阶对角阵i D 如下： 1D 对角元：1,1,...,20,1+0.1(-20),21,...,100j j d j d j j ==== 2D 对角元：1,1,...,20,1+(-20),21,...,100j j d j d j j ==== 3D 对角元：,1,...,80,81,81,...,100j j d j j d j ==== 4D 对角元：,1,...,40,41,41,...,60,41+(60),61,...,100j j j d j j d j d j j =====-= 5D 对角元：,1,...,100j d j j == 记i D 的最大模特征值和最小模特征值分别为1i λ和i n λ，则i D 特征值分布有如下特点： 1D 的特征值有较多接近于i n λ，并且1/i i n λλ较小， 2D 的特征值有较多接近于i n λ，并且1/i i n λλ较大， 3D 的特征值有较多接近于1i λ，并且1/i i n λλ较大， 4D 的特征值有较多接近于中间模特征值，并且1/i i n λλ较大， 5D 的特征值均匀分布，并且1/i i n λλ较大 （2）随机生成10个100阶矩阵j M ： (100(100))j M fix rand = 并作它们的QR 分解，得j Q 和j R ，这样可得50个对称的矩阵T ij j i j A Q DQ =，其中i D 的对角元就是ij A 的特征值，若它们都大于0，则ij A 正定，j Q 的列就是相应的特征向量。结合（1）可知，ij A 都是对称正定阵。
随机过程作业题及参考答案(第一章)
第一章 随机过程基本概念 P39 1. 设随机过程()0cos X t X t ω=，t -∞<<+∞，其中0ω是正常数，而X 是标准正态变量。试求()X t 的一维概率分布。 解： 1 当0cos 0t ω=，02 t k π ωπ=+ ，即0112t k πω??= + ??? （k z ∈）时， ()0X t ≡，则(){}01P X t ==. 2 当0cos 0t ω≠，02 t k π ωπ≠+ ，即0112t k πω?? ≠ + ??? （k z ∈）时， ()~01X N ，，()0E X ∴=，()1D X =. ()[]()00cos cos 0E X t E X t E X t ωω===????. ()[]()22 000cos cos cos D X t D X t D X t t ωωω===????. ()()20~0cos X t N t ω∴，. 则( )2202cos x t f x t ω- = ；. 2. 利用投掷一枚硬币的试验，定义随机过程为 ()cos 2t X t t π?=??，出现正面，出现反面 假定“出现正面”和“出现反面”的概率各为 12。试确定()X t 的一维分布函数12F x ?? ???；和()1F x ；，以及二维分布函数12112 F x x ?? ?? ? ，；， 。
00 11101222 11
随机过程
《随机过程》课程教学大纲 课程编号：02200021 课程名称：随机过程 英文名称：Stochastic Processes 课程类别：选修课 总学时：72 讲课学时：68 习题课学时：4 学分: 4 适用对象：数学与应用数学、信息与计算科学专业 先修课程：数学分析、高等代数、概率论与数理统计 一、课程简介 随机过程是研究客观世界中随机演变过程规律性的学科，它的基本知识和方法不仅为数学、概率统计专业所必需，也为工程技术、生物信息及经济领域的应用和研究所需要。本课程介绍随 机过程研究领域的一些基础而重要的知识和技能。 二、课程性质、目的和任务 随机过程是概率论的后续课程，具有比概率理论更加实用的应用方面，处理问题也更加贴近实际情况。通过这门课程的学习，使学生了解随机过程的基本概念，掌握最常见而又有重要应用 价值的诸如Poisson过程、更新过程、Markov过程、Brown运动的基本性质，能够处理基本的随 机算法。提高学生利用概率理论数学模型解决随机问题的能力。通过本课程的学习，可以让数学 专业的学生很方便地转向在金融管理、电子通讯等应用领域的研究。 三、课程基本要求 通过本课程的学习，要求学生掌握随机过程的一般概念，知道常见的几类随机过程的定义、背景和性质；掌握泊松过程的定义与基本性质，了解它的实际背景，熟悉它的若干推广；掌握更 新过程的定义与基本性质、更新函数、更新方程，了解更新定理及其应用，知道更新过程的若干 推广；掌握离散时间的马尔可夫链的基本概念，熟练掌握转移概率、状态分类与性质，熟悉极限 分布、平稳分布与状态空间的分解，了解分枝过程；掌握连续时间的马尔可夫链的定义、柯尔莫 哥洛夫方程；掌握布朗运动的定义与基本性质，熟悉随机积分的定义与基本性质，了解扩散过程 与伊藤公式，会求解一些简单的随机微分方程。 四、教学内容及要求 第一章预备知识 §1.概率空间；§2.随机变量和分布函数；§3.数字特征、矩母函数和特征函数；§4. 条件概率、条件期望和独立性；§5.收敛性 教学要求：本章主要是对概率论课程的复习和巩固，为后续学习做准备。 第二章随机过程的基本概念和类型
《应用随机过程》教学大纲
《应用随机过程》课程教学大纲 课程代码：090541007 课程英文名称：Applications Stochastic Processes 课程总学时：40 讲课：40 实验：0 上机：0 适用专业：应用统计学 大纲编写（修订）时间：2017.6 一、大纲使用说明 （一）课程的地位及教学目标 随机过程是现代概率论的一个重要的组成部分，其理论产生于上世纪初期，主要是由物理学、生物学、通讯与控制、管理科学等方面的需求而发展起来的。它是研究事物的随机现象随时间变化而产生的情况和相互作用所产生规律的学科。随机过程的理论为许多物理、生物等现象提供诸多数学模型，同时为研究这类现象提供了数学手段。本课程为统计学专业的专业课程，通过本课程的学习，掌握随机过程的基本概念、基本理论、内容和基本方法，了解随机过程的重要应用，为后继课程学习提供知识准备，另一方面，随机过程的发展也是人们认识客观世界的一个重要组成部分，它有助于学生辩证唯物主义世界观的培养。 （二）知识、能力及技能方面的基本要求 1.基本知识：通过本科程的学习，使学生掌握，要求学生掌握随机过程的基本概念、二阶矩过程的均方微积分、马尔可夫过程的基本理论、平稳过程的基本理论、鞅和鞅表示、维纳过程、Ito定理、随机微分方程等理论和方法。 2.基本能力：通过本课程的学习，使学生能较深刻地理解随机过程的基本理论、思想和方法，并能应用其解决实践中遇到的随机问题，从而提高学生的数学素质，加强学生开展科研工作和解决实际问题的能力。 3.基本技能：掌握建立随机数学模型、分析和解决问题方面的技能，为进一步自学有关专业应用理论课程作好准备。 （三）实施说明 本大纲是根据沈阳理工大学关于制订本科教学大纲的原则意见专门制订的。在制订过 程中参考了其他学校相关专业应用随机过程教学大纲。 本课程思维方式独特，还需要学生有较高的微积分基础，教学中应注意概率意义的解 释和学生基础情况的把握，处理好抽象与具体，偶然与必然、一维与多维，理论与实践的关系。本课程内容分概率论与数理统计两部分，在教学中应充分注意两者之间的联系，重视基本概念，讲清统计思想。 （四）对先修课的要求 本课的先修课程：数学分析，高等代数，概率论。 （五）对习题课的要求 由于本课程内容多学时少，习题课在大纲中未作安排，建议教师授课过程中灵活掌 握；对于学生作业中存在的问题，建议通过课前和课后答疑解决。通过习题课归纳总结章节知识解决重点难点内容。 （六）课程考核方式 1.考核方式：考试 2.考核目标：在考核学生基本知识、基本原理和方法的基础上，重点考核学生解决实际问题的能力。 3.成绩构成：本课程的总成绩主要由两部分组成：平时成绩20-30％；期末成绩70-80％; 平时成绩构成：出勤，测验，作业。其中测验为开卷，随堂测验。
随机过程习题答案A
随机过程习题解答（一） 第一讲作业： 1、设随机向量的两个分量相互独立，且均服从标准正态分布。 （a）分别写出随机变量和的分布密度 （b）试问：与是否独立？说明理由。 解：（a） （b）由于： 因此是服从正态分布的二维随机向量，其协方差矩阵为： 因此与独立。 2、设和为独立的随机变量，期望和方差分别为和。 （a）试求和的相关系数； （b）与能否不相关？能否有严格线性函数关系？若能，试分别写出条件。 解：（a）利用的独立性，由计算有： （b）当的时候，和线性相关，即 3、设是一个实的均值为零，二阶矩存在的随机过程，其相关函数为 ，且是一个周期为T的函数，即，试求方差 函数。 解：由定义，有： 4、考察两个谐波随机信号和，其中：
式中和为正的常数；是内均匀分布的随机变量，是标准正态分布的随机变量。 （a）求的均值、方差和相关函数； （b）若与独立，求与Y的互相关函数。 解：（a） （b） 第二讲作业： P33/2．解： 其中为整数，为脉宽 从而有一维分布密度： P33/3．解：由周期性及三角关系，有： 反函数，因此有一维分布： P35/4. 解：(1) 其中 由题意可知，的联合概率密度为：
利用变换：，及雅克比行列式： 我们有的联合分布密度为： 因此有： 且V和相互独立独立。 （2）典型样本函数是一条正弦曲线。 （3）给定一时刻，由于独立、服从正态分布，因此也服从正态分布，且 所以。 （4）由于： 所以因此 当时， 当时， 由（1）中的结论，有： P36/7．证明： (1) (2) 由协方差函数的定义，有：
P37/10. 解：（1） 当i =j 时；否则 令 ，则有 第三讲作业： P111/7．解： （1）是齐次马氏链。经过次交换后，甲袋中白球数仅仅与次交换后的状态有关，和之前的状态和交换次数无关。 （2）由题意，我们有一步转移矩阵： P111/8．解：（1）由马氏链的马氏性，我们有： （2）由齐次马氏链的性质，有： （2）
清华大学贾仲孝老师高等数值分析报告第二次实验
高等数值分析第二次实验作业
T1.构造例子特征值全部在右半平面时, 观察基本的Arnoldi 方法和GMRES 方法的数值性态, 和相应重新启动算法的收敛性. Answer: （1） 构造特征值均在右半平面的矩阵A ： 根据实Schur 分解，构造对角矩阵D 由n 个块形成，每个对角块具有如下形式，对应一对特 征值i i i αβ± i i i i i S αββα-?? = ??? 这样D=diag(S 1,S 2,S 3……S n )矩阵的特征值均分布在右半平面。生成矩阵A=U T AU ，其中U 为 正交阵，则A 矩阵的特征值也均在右半平面。不妨构造A 如下所示： 2211112222 /2/2/2/2N N A n n n n ?-?? ? ? ?- ? = ? ? ? - ? ?? ? 由于选择初值与右端项：x0=zeros(2*N,1);b=ones(2*N,1); 则生成矩阵A 的过程代码如下所示： N=500 %生成A 为2N 阶 A=zeros(2*N); for a=1:N A(2*a-1,2*a-1)=a; A(2*a-1,2*a)=-a; A(2*a,2*a-1)=a; A(2*a,2*a)=a; end U = orth(rand(2*N,2*N)); A1 = U'*A*U; （2） 观察基本的Arnoldi 和GMRES 方法 编写基本的Arnoldi 函数与基本GMRES 函数，具体代码见附录。 function [x,rm,flag]=Arnoldi(A,b,x0,tol,m) function [x,rm,flag]=GMRES(A,b,x0,tol,m) 输入:A 为方程组系数矩阵，b 为右端项，x0为初值，tol 为停机准则，m 为人为限制的最大步数。 输出:x 为方程的解，rm 为残差向量，flag 为解是否收敛的标志。 外程序如下所示： e=1e-6; m=700;
随机过程作业(全部)
作业1（随机过程的基本概念） 1、对于给定的随机过程{(),}X t t T ∈及实数x ，定义随机过程 1,()()0,()X t x Y t X t x ≤?=? >?，t T ∈ 请将{(),}Y t t T ∈的均值函数和相关函数用{(),}X t t T ∈的一维和二维分布函数表示。 2、设(),Z t X Yt t R =+?∈，其中随机变量X ，Y 相互独立且都服从2(0,)N σ，证明 {(),}Z t t R ?∈是正态过程，并求其相关函数。 3、设{(),0}W t t ≥是参数为2 σ的Wiener 过程，求下列过程的协方差函数： （1）{(),0}W t At t +≥，其中A 为常数； （2）{(),0}W t Xt t +≥，其中(0,1)X N ，且与{(),0}W t t ≥相互独立； （3）2{(),0}t aW t a ≥，其中a 为正常数； （4）1 {(),0}tW t t ≥ 作业2（泊松过程） 1、设{(),0}N t t ≥是强度为λ的Poisson 过程，令()()()Y t N t L N t =+-，其中L>0为常数，求{(),0}Y t t ≥的一维分布，均值函数和相关函数。 2、设{(),0}N t t ≥是强度为λ的Poisson 过程，证明对于任意的0s t ≤<， (()|())()(1),0,1,,k k n k n s s P N s k N t n C k n t t -===-= 作业3 （更新过程） 1 设{(t),0}N t ≥是更新过程，更新间距,1,2,i X i = 服从参数为λ的指数分布，则 (t),0N t ≥是服从参数为λ的Poisson 分布。 2 某收音机使用一节电池供电，当电池失效时，立即换一节同型号新电池。如果电池的寿命服从30小时到60小时的均匀分布，问长时间工作情况下该收音机更换电池的速率是多少？ 若没有备用电池，当收音机失效时，立即在市场上采购同型号电池，获得新电池的时间服从0小时到1小时的均匀分布，求在长时间工作的情况下，更换电池的速率。
应用随机过程教学大纲
《应用随机过程A》课程教学大纲 课程编号： L335001 课程类别：专业限选课适用专业：统计学专业 学分数：3学分学时数： 48学时 应修（先修）课程：数学分析、概率统计、微分方程、高等代数 一、本课程的地位和作用 应用随机过程是数学与应用数学专业的专业限选课程，是统计学专业的专业课程之一。随机过程是研究客观世界中随机演变过程规律性的学科，随机过程的研究对象为随时间变化的随机现象，即随时间不断变化的随机变量，通常被视为概率论的动态部分。随着科学技术的发展，它已广泛地应用于通信、控制、生物、地质、经济、管理、能源、气象等许多领域，国内外许多高等工科院校在研究生中设此课程，大量工程技术人员对随机分析的方法也越来越重视。通过本课程的学习，使学生初步具备应用随机过程的理论和方法来分析问题和解决问题的能力。 二、本课程的教学目标 使学生掌握随机过程的基本知识，通过系统学习，学生的概率理论数学模型解决随机问题的能力得到更加进一步的提高，特别在经济应用上，通过本课程的学习，可以让数学专业的学生很方便地转向在金融管理、电子通讯等应用领域的研究。 三、课程内容和基本要求 ?”记号标记既（用“*”记号标记难点内容，用“?”记号标记重点内容，用“* 是重点又是难点的内容。） 第一章预备知识 1．教学基本要求 （1）掌握概率空间, 随机变量和分布函数, 矩母函数和特征函数的概念和相关性质。 （2）掌握条件概率, 条件期望和独立性的概念和相关性质。 （3）了解概率中收敛性的概念和相互关系。 2．教学内容 （1）概率空间 （2）▽随机变量和分布函数
（3）▽*数字特征、矩母函数和特征函数 （4）▽*条件概率、条件期望和独立性 （5）收敛性 第二章随机过程的基本概念和类型 1．教学基本要求 （1）掌握随机过程的定义。 （2）了解有限维分布族和Kolmogorov定理。 （3）掌握独立增量过程和独立平稳增量过程概念。 2．教学内容 （1）基本概念 （2）▽*有限维分布和Kolmogorov定理 （3）▽随机过程的基本类型 第三章 Poisson过程 1．教学基本要求 （1）了解计数过程的概念。 （2）掌握泊松过程两种定义的等价性。 （3）掌握泊松过程的到达时刻的分布、等待时间的分布和来到时刻的条件分布。（4）了解泊松过程的推广。 2．教学内容 （1）▽ Poisson过程 （2）▽* 与Poisson过程相联系的若干分布 （3）* Poisson过程推广 第四章更新过程 1．教学基本要求 （1）掌握更新过程的定义和基本性质。 （2）掌握更新函数、更新方程。 （3）了解更新定理及其应用，更新过程的若干推广。 （4）了解更新过程的若干推广。 2．教学内容
随机过程作业
南昌航空大学硕士研究生2009 / 2010学年第一学期考试卷 1. 求随机相位正弦波()cos()X t a t ωθ=+，(,)t ∈-∞+∞，的均值函数，方差函数和自相关函数。其中θ是在（-л，л）内均匀分布的随机变量 2.()X t 是泊松过程，求出泊松过程的均值函数(),X m t 方差函数()X D t ，相关函数(,)X R s t 协方差函数(,)X B s t . 3.设顾客到达商场的速率为2人/分钟，求: (i)在10分钟内顾客达到数的均值； (ii) 在10分钟内顾客达到数的方差； (iii)在10分钟内至少一个顾客达到的概率； (iv)在10分钟内到达顾客不超过3人的概率。(12分)
4.利用重复抛掷硬币的实验定义一个随机过程cos ,(){ 2,, t X t t π=出现正面，出现正面， (,)t ∈-∞+∞ 求:(i)()X t 的一维分布函数1(,),(,1);2F x F x (ii)()X t 的二维分布函数121(,,1);2F x x (iii)()X t 的均值函数(),(1),X X m t m 方差函数(),(1)X X D t D .(16分) 5.设移民到某地区的居民户数是一泊松过程，平均每周有2户定居，如果每户的人口数是随机变量，一户4口人的概率是1/6,一户3口人的概率是1/3,一户2口人的概率是1/3,一户1口人的概率是1/6,并且
每户的人口数是相互独立的，求2周内移民到该地区的人口数的期望和方 6.设{,1}n X n ≥为有限齐次马尔可夫链，其初始分布和概率转移矩阵为 01 {},1,2,3,4.4 i p P X i i ==== 11114444111144441111444411114444?? ? ? ? ? ? ? ? ? ??? , 求(i)201{4|1,14}P X X X ==<<,(ii) 21{4|14}P X X =<<(12分) 7.设明天是否有雨仅与今天的天气有关，而与过去的天气无关。又设今天下雨明天也下雨的概率为0.7,今天无雨明天有雨的概率为0.4，规定有雨的天气状态为0，无雨的天气状态为1.求周一下雨周四也下雨的概率。 8.设{1,2,3,4}I =，其一步转移概率矩阵为:
随机过程第一次大作业(THU)
基于主成分分析的人脸识别 目录 基于主成分分析的人脸识别 (1) 1 引言 (2) 1.1 PCA简介 (2) 一、主成分的一般定义 (3) 二、主成分的性质 (3) 三、主成分的数目的选取 (4) 1.2 人脸识别概述 (4) 2 基本理论及方法 (5) 3 人脸识别的具体实现 (6) 3.1 读入图像数据库 (6) 3.2 计算特征空间 (7) 3.3 人脸识别 (9) 4 对实验算法的综合评价 (11) 5 结论 (11) 6、参考文献 (11) 7、附录 (12) 1、代码说明： (12) 2、实验感想 (12) 摘要：本文利用基于主成分分析(Principal ComponentAnalysis，PCA)进行人脸识别。该过程主要分为三个阶段，第一个阶段利用训练样本集构建特征脸空间；第二个阶段是训练阶段，主要是将训练图像投影到特征脸子空间上；第三个阶段是识别阶段，将测试样本集投影到特征脸子空间，然后与投影后的训练图像相比较，距离最小的为识别结果。本方法具有简单、快速和易行等特点,能从整体上反映人脸图像的灰度相关性具有一定的实用价值。 关键词：人脸识别；PCA；识别方式
1 引言 PCA 是一种对数据进行分析的技术，最重要的应用是对原有数据进行简化。正如它的名字：主元分析，这种方法可以有效的找出数据中最“主要”的元素和结构，去除噪音和冗余，将原有的复杂数据降维，揭示隐藏在复杂数据背后的简单结构。它的优点是简单，而且无参数限制，可以方便的应用与各个场合，根据矩阵的行数与列数的区别于差异，PCA 又可以划分为D —PCA （Distributed PCA [1]和C —PCA （Collective PCA ）[2]。 1.1 PCA 简介 PCA 方法，也被叫做特征脸方法(eigenfaces)，是一种基于整幅人脸图像的识别算法，被广泛用于降维，在人脸识别领域也表现突出。一个N ×N 的二维脸部图片可以看成是N 的一个一维向量，一张112×92的图片可以看成是一个10，304维的向量，同时也可以看成是一个10，304维空间中一点。图片映射到这个巨大的空间后，由于人脸的构造相对来说比较接近，因此，可以用一个相应的低维子空间来表示。我们把这个子空间叫做“脸空间”。PCA 的主要思想就是找到能够最好地说明图片在图片空间中的分布情况的那些向量。这些向量能够定义“脸空间”，每个向量的长度为N ，描述一张N ×N 的图片，并且是原始脸部图片的一个线性组合。对于一副M*N 的人脸图像，将其每列相连构成一个大小为D=M*N 维的列向量。D 就是人脸图像的维数，也即是图像空间的维数。设n 是训练样本的数目；X j 表示第j 幅人脸图像形成的人脸向量，则所需样本的协方差矩阵为： S r =1()()N T j i j x u x u =--∑ (1) 其中u 为训练样本的平均图像向量： u =1 1n j j x n =∑(2) 令A=[x 1-u x 2-u ……x n -u],则有S r =AA T ,其维数为D*D 。
第三章随机过程作业
第三章随机过程作业 1.设A、B是独立同分布的随机变量，求随机过程的 均值函数、自相关函数和协方差函数。 2.设是独立增量过程，且，方差函数为。记随机过程 ，、为常数，。 （1）证明是独立增量随机过程； （2）求的方差函数和协方差函数。 3.设随机过程，其中是相互独立的随机变量且均值为 0、方差为1，求的协方差函数。 4.设U是随机变量，随机过程. (1) 是严平稳过程吗为什么 (2) 如果，证明：的自相关函数是常数。 5.设随机过程,其中U与V独立同分布 。 (1) 是平稳过程吗为什么 (2) 是严平稳过程吗为什么 6.设随机变量的分布密度为, 令, 试求的一维概率分布密度及。
7.若从t = 0开始每隔1/2分钟查阅某手机所接收的短信息 , 令 试求：的一维分布函数 8.设随机过程, 其中是相互独立的随 机变量 , 且, 试求的均值与协方差函数 . 9.设其中为常数 , 随机变量 , 令 , 试求 :和 。 10.设有随机过程，并设x是一实数，定义另一个随机过程 试证的均值和自相关函数分别为随机过程的一维和二维分布函数。11.设有随机过程,，其中为均匀分布 于间的随机变量，即试证： （1）自相关函数 （2）协相关函数 12.质点在直线上作随机游动，即在时质点可以在轴上往右或往左作 一个单位距离的随机游动。若往右移动一个单位距离的概率为，往左移动一个单位距离的概率为，即
，且各次游动是相互统计独立的。经过n 次游动，质点所处的位置为。 （1）的均值； （2）求的相关函数和自协方差函数和。 13.设，其中服从上的均匀分布。试证 : 是宽平稳序列。 14.设其中服从上的均匀分布. 试 证 :既不是宽平稳也不是严平稳过程 . 15.设随机过程和都不是平稳的，且 其中和是均值为零的相互独立的平稳过程，它们有相同的相关函数，求证 是平稳过程。 16.设是均值为零的平稳随机过程。试 证 : 仍是一平稳随机过程 , 其中为复常数，为整数。 17.若平稳过程满足条件，则称是周 期为的平稳过程。试证是周期为的平稳过程的充分必要条件是其自相关函数必为周期等于的周期函数。
应用随机过程——马尔可夫过程的应用
应用随机过程——马尔可夫过程的应用 李文雯，黄静冉，李鑫，苏建武 （国防科学技术大学电子科学与工程学院，湖南，长沙，410072） 摘要：现实生活中，语音处理、人脸识别以及股市走势预测等实际问题都具有马尔可夫性，即未来的走势 和演变仅仅与当前的状态有关而不受过去状态的影响。本文运用这一性质建立了以上三个问题的马尔可夫 链模型并做出了相应分析。 Abstract: In practical, phonetic processing, face recognition and the prediction of trend in stock market all have the MarKov property, that is, the evolvement and trend in the future are just in relationship with present state but not influenced by the past. In this article, we use the property setting up MarKov chain models of the three problems mentioned above and make some corresponding analysis. 关键词：马尔可夫过程语音处理人脸识别股市走势预测 Keyword: MarKov Process Phonetic processing Face recognition Prediction of trend in stock market 一、引言 马尔科夫过程(MarKov Process)是一个典型的随机过程。设X(t)是一随机过程，当过程 在时刻t0所处的状态为已知时，时刻t(t>t0)所处的状态与过程在t0时刻之前的状态无关， 这个特性成为无后效性。无后效的随机过程称为马尔科夫过程。我们称时间离散、状态离散 的马尔科夫过程为马尔科夫链。马尔科夫链中，各个时刻的状态的转变由一个状态转移的概 率矩阵控制。我们将采用马尔可夫链建模的方法，就马尔可夫模型在语音处理、人脸识别以 及股市走势预测等几个方面的应用进行探讨。 二、马尔可夫过程的应用举例 1、股票市场走势预测 对一支股票来说，令x(n)表示该股票在第n天的收盘价，x(n)是一个随机变量，(x(n)， n≥0)是一个参数离散的随机过程。假设股票价格具有无后效性与时问齐次性，这样一来我 们就可以用马尔可夫过程的研究方法预测未来某交易日收盘价格落在每个区间的概率。 以某股份18个收盘交易日的收盘价格为资料 序号 1 2 3 4 5 6 7 8 9 收盘价12.99 13.15 13.78 13.83 12.54 13 13.2 12.96 12.6 序号10 11 12 13 14 15 16 17 18 收盘价13.7 13.58 13.58 13.58 13.49 13.7 14.03 13.77 13.82 这组数据中的最大值为14.03，最小值为12.54，因此可以将这个取值范围划分为 [12.54,12.9125],[12.9125,13.285],[13.285,13.6575],[13.6575,14.03]。故将观测数据划分如下： 价格状态 A B C D 价格区间 [12.54,12.9125] [12.9125,13.285][13.285,13.6575][13.6575,14.03] 频数 2 5 4 7 根据以上的状态划分，可以对状态转移的情况进行统计如下：
随机过程2016作业及答案3
1.Players A and B take turns in answering trivia questions, starting with player A answering the ?rst question. Each time A answers a question, she has probability p 1 of getting it right. Each time B plays, he has probability p 2 of getting it right. (a)If A answers m questions, what is the PMF of the number of questions she gets right? The r.v.is Bin(m,p 1),so the PMF is m k p k 1(1 p 1)m k for k 2{0,1,...,m }.(b)If A answers m times and B answers n times,what is the PMF of the total number of questions they get right (you can leave your answer as a sum)?Describe exactly when/whether this is a Binomial distribution. Let T be the total number of questions they get right.To get a total of k questions right,it must be that A got 0and B got k ,or A got 1and B got k 1,etc.These are disjoint events so the PMF is P (T =k )=k X j =0?m j ◆p j 1(1 p 1)m j ?n k j ◆p k j 2(1 p 2)n (k j )for k 2{0,1,...,m +n },with the usual convention that n k is 0for k >n . This is the Bin(m +n,p )distribution if p 1=p 2=p ,as shown in class (using the story for the Binomial,or using Vandermonde’s identity).For p 1=p 2,it’s not a Binomial distribution,since the trials have di ?erent probabilities of success;having some trials with one probability of success and other trials with another probability of success isn’t equivalent to having trials with some “e ?ective”probability of success.(c)Suppose that the ?rst player to answer correctly wins the game (with no prede-termined maximum number of questions that can be asked).Find the probability that A wins the game. Let r =P (A wins).Conditioning on the results of the ?rst question for each player,we have r =p 1+(1 p 1)p 2·0+(1 p 1)(1 p 2)r, which gives r =p 11 (1 p 1)(1 p 2)=p 1p 1+p 2 p 1p 2 .1 SI 241 Probability & Stochastic Processes, Fall 2016 Homework 3 Solutions 随机过程2016 作业及答案
清华大学高等数值计算(李津)实践题目二(SVD计算及图像压缩)(包含matlab代码)
第1部分 方法介绍 奇异值分解（SVD ）定理： 设m n A R ?∈，则存在正交矩阵m m V R ?∈和n n U R ?∈，使得 T O A V U O O ∑??=?? ?? 其中12(,, ,)r diag σσσ∑=，而且120r σσσ≥≥≥>，(1,2, ,)i i r σ=称为A 的 奇异值，V 的第i 列称为A 的左奇异向量，U 的第i 列称为A 的右奇异向量。 注：不失一般性，可以假设m n ≥，（对于m n <的情况，可以先对A 转置，然后进行SVD 分解，最后对所得的SVD 分解式进行转置，就可以得到原来的SVD 分解式） 方法1：传统的SVD 算法 主要思想： 设()m n A R m n ?∈≥，先将A 二对角化，即构造正交矩阵1U 和1V 使得 110T B n U AV m n ?? =?? -?? 其中1200n n B δγγδ??? ???=?????? 然后，对三角矩阵T T B B =进行带Wilkinson 位移的对称QR 迭代得到:T B P BQ =。 当某个0i γ=时，B 具有形状12B O B O B ?? =? ??? ，此时可以将B 的奇异值问题分解为两个低阶二对角阵的奇异值分解问题；而当某个0i δ=时，可以适当选取'Given s 变换，使得第i 行元素全为零的二对角阵，因此，此时也可以将B 约化为两个低 阶二对角阵的奇异值分解问题。 在实际计算时，当i B δε∞≤或者() 1j j j γεδδ-≤+（这里ε是一个略大于机器精度的正数）时，就将i δ或者i γ视作零，就可以将B 分解为两个低阶二对角阵的奇异值分解问题。
随机过程及其应用-清华大学
4.1(等待时间的和)设诚恳按照参数λ的Poisson 过程来到公交站，公交车于时刻t 发出，那么在],0[t 时间段内到达的乘客等待时间总和的期望应该如何计算那？ 对于某一个乘客而言，假设其到达时间为k t ，那么他等待时间就是 k t t -所以乘客总的等待时间为∑=-=) (0)()(t N k k t t t S 使用条件期望来处理平均等待))(|)(())((n t N t E E t S E == 对于某已成了而言，其到达时刻k t 随机],0[t 内均匀分布的随机变量。但在车站上，乘客是先后到达次序排队，所以在n t N =)(的条件下， n t t t ,...,,21形成了独立均匀分布的顺序统计量。不过就他们的和n t t ++...1而言，可以那他们看着顺序统计量，也可以把他们看着不排顺序的n 各独立的],0[t 内均匀分布的随机变量，所以 2))((2)2)(())((2 2)())(|)((2 0t t N E t t t N E t E E nt nt nt t E nt n t N t E E n k k λ= ===- =-==∑=从而有 4.2(数值记录)设},{N n X n ∈是一独立同分布的非负期望随机变量序列。定义风险率)(t λ如下) (1) ()(t F t f t -= λ 这里)()(t F t f 和分别是k X 的概率密度分布和分布函数。定义随机过程 )(t N 如下}),,..,max(:{#)(01t X X X X n t N n n n ≤>=- 这里A #表示集合A 中的元素个数。如果把)(t N 中的时间t 看做时间，那么)(t N 是一个非齐次Poisson 过程。事实上，由于k X 彼此独立，所以)(t N 具有独立增量性。很明显0)0(=N ，于是只需要检查一个时间微元内)(t N 的状态。
清华大学高等数值分析作业李津1——矩阵基础
20130917题目 求证：在矩阵的LU 分解中，1 11n n T n ij i j j i j L I e e α-==+??=- ??? ∑∑ 证明： 在高斯消去过程中，假设0jj a ≠ ，若a=0，可以通过列变换使得前面的条件成立，这里不考虑这种情况。 对矩阵A 进行LU 分解，()() () ()()1 11 1111L M n M M M n ---=-=??-………… ， 其中()1n T n ij i j i j M j I e e α=+??=+ ??? ∑ ，i e 、j e 为n 维线性空间的自然基。 ()M j 是通过对单位阵进行初等变换得到， 通过逆向的变换则可以得到单位阵，由此很容易得到()M j 的逆矩阵为1n T n ij i j i j I e e α=+??- ???∑。故111n n T n ij i j n j i j L I e e I α-==+?? ??=- ? ? ????? ∏∑ 上式中的每一项均是初等变换，从右向左乘，则每乘一次相当于对右边的矩阵进行一次 向下乘法叠加的初等变换。由于最初的矩阵为单位阵，变换从右向左展开，因而每一次变换不改变已经更新的数据，既该变换是从右向左一列一列更新数据，故 11n n T n ij i j j i j L I e e α==+??=- ??? ∑∑。 数学证明：1n T ij i j i j e e α=+?? ???∑具有 ,0 00n j j A -?? ??? 和1,1000n j n j B -+-+?? ?? ? 的形式，且有 +1,-11,10000=000n j j n j n j A B --+-+???? ?????? ? 而1 1n n T ij i j j k i j e e α-==+?? ??? ∑∑具有1,1000n k n k B -+-+?? ???的形式，因此： 1 311111211121==n n n n n n T T T n ij i j n ij i j n ik i k j i j j i j k n i k n n T n i i n ik i i i k L I e e I e e I e e I e e I e ααααα---==+==+=-=+==+??????????????=---?? ? ? ? ? ? ? ? ???????????????????????=-- ? ? ?????∏∑∏∑∑∑∑∑……11211n n n T T k n ik i k k k i k e I e e α--===+????=- ?? ?????? ∑∑∑#