信号处理数学方法

学号姓名成绩

《信号分析与处理中的数

学方法》

考试题目：

1、叙述卡享南—洛厄维变换，为什么该变换被称为最佳变换，何为

其实用时的困难所在，举例说明其应用。

2、最小二乘法的三种表现形式是什么？以傅里叶级数展开为例说明

其各自的优缺点。

3、二阶矩有限的随机变量希尔伯特空间中平稳序列的预测问题的法

方程称为关于平稳序列预测问题的yule-walker方程，试用投影法和求导法推导该方程。该方程的求解算法称为最小二乘算法，请对这些算法的原理予以描述。

4、简述卡尔曼滤波的原理，并指出其可能的应用。

5、什么是插值？有多少种插值，举一个教材之外的例子说明其应用。

1、 叙述卡享南—洛厄维变换，为什么该变换被称为最佳变换，何为

其实用时的困难所在，举例说明其应用。

形为

的方程称为齐次佛莱德霍姆积分方程，其中 为未知函数， 是参数，(),C t s 为已知的“核函数”，它定义在 ， ， 上，我们假定它是连续的，且是对称的：

(1-1)

使积分方程(1-1)有解的参数 称为该方程的特征值，相应的解 称为该方程的特征函数。

固定一个变量t ，则

()()()

1,n n n n C t s t s λ??∞

-=∑

(1-2)

表示以s 为变量的函数(),C t s 关于正交系(){}n t ?的傅立叶级数展开，而傅立叶系数正好是()n n t λ?。

设()x t 为一随机信号，则其协方差函数

(1-3) 是一个非随机的对称函数，而且是非负定的。为了能方便地应用式(1-2)，假定(),C t s 是正定的，在多数情况下，这是符合实际的。当然，还假定(),C t s 在 ， ， 上连续。

现在用特征函数系(){}n t ?作为基来表示()x t ：

()()1n n n x t t α?∞

-=∑ (1-4)

其中()()0

T

n n x t t dt α?=?。因为(){}n t ?是归一化正交系，所以展开式类似于

傅里叶级数展开。但是因为()x t 是随机的，从而系数n α也是随机的，因此这个展开式实际上并不是通常的傅里叶展开。式(1-4)称为随机信号的卡享南-洛厄维展开。

因为这种变换能使变换后的分量互不相关，又能使均方误差最小，故被称作最佳变换。

设[]1,

,T

N x x x =为N 维随机向量，存在这样一个正交变换Φ，有

y x =Φ (1-5)

使得变换后的随机向量y 具有对角形的协方差阵，即

(1-6) 其中1,

,N λλ为x C 的特征值， 1,,N ??是相应的归一正交化特征向量组。

上述矩阵Φ所表示的正交变换称为卡享南-洛厄维变换。变换之后的随机向量y 的诸分量之间不再有相关性。

卡享南-洛厄维变换没有固定的变换矩阵，它依赖于给定的随机向量的协方差阵。正是这种变换的特点，也是它在实际使用时的困难所在，因为它需要依照不固定的矩阵x C 求特征值和特征向量。

卡享南-洛厄维变换应用在数据压缩技术中。按照最优化原则的数据压缩技术可以解决通讯和数据传输系统的信道容量不足和计算机存储容量不足的问题。通过对信号作正交变换，根据失真最小的原则在变换域进行压缩。卡享南-洛厄维变换被选用并不是偶然的，因为这种变换消除了原始信号x 的诸分量间的相关性，从而使数据压缩能遵循均方误差最小的准则实施。

2、最小二乘法的三种表现形式是什么？以傅里叶级数展开为例说明其各自的优缺点。

希尔伯特空间中线性逼近问题的求解方法称为最小二乘法。通常它有三种不同的表现形式：投影法、求导法和配方法。我们以傅里叶级数展开为例来说明。

投影法：

设X 为希尔伯特空间，{}12,,

e e 为X 中的一组归一化正交元素，x 为X 中

的某一元素。在子空间{}12,,

M span e e =中求一元素0m ，使得

0min m M

x m x m ∈-=- (2-1)

由于M 中的元素可表示为12,,

e e 的线性组合，那么问题就转化为求系数

12,,

αα，使得

1

min k k k x e α∞

=-=∑ (2-2)

投影定理指出了最优系数12,,

αα应满足

1,1,2,k k m k x e e m α∞

=??-⊥=

???

∑ (2-3)

由此即得()1,,m k k m m k x e e e αα∞=??

== ???∑。也就是说，当且仅当k α取为x 关于归

一化正交系{}12,,

e e 的傅立叶系数(),k k x e α=时式(2-2)成立。

求导法： 记泛函

()2

121

,,k k k f x e ααα∞

==

-∑ (2-4)

为了便于使用求导法求此泛函的最小值，将它表为

()

12112

2

1

1

,,

,2k k m m k m k k k k k f x e x e x c αααααα∞∞

==∞∞

==??=-- ?

??

=-+∑∑∑∑

(2-5)

其中(),k k c x e =。于是最优的12,,

αα应满足

0,1,2,m

f

m α?==?

即220m m c α-+=，或,1,2,m m c m α==。

配方法：

()

2

2

121

1

,,

2k k k k k f x c αααα∞∞

===-+∑∑

(2-6)

2

2221

1

1

1

2k

k

k k k k k k k x c c c αα∞∞∞∞

=====-+-+∑∑∑∑

()2

2

21

1

k k k k k x c c α∞∞

===-+-∑∑

min k k c α=?=，1,2,

k =

以上三种方法都称为最小二乘法。比较起来，从数学理论上讲，投影法较高深，求导法次之，配方法则属初等；从方法难度上讲，求导法最容易，投影法和配方法各有千秋；从结果看，配方法最好，因为它不仅求出了最优系数k α，而且由配方结果立即可知目标函数()12,,

f αα的极值。此外，配方法和投影法都

给出了f 达到极小的充分和必要条件，但求导法给出的仅仅是极值的必要条件，如果是极值，还不知道是极大还是极小，故是不完整的。

通过以上的比较，我们不能简单地得出结论，说这三种方法孰胜孰劣。因为衡量一种方法好坏的标准是多方面的。我们还应看到这三种方法的各自困难所在。例如投影法必须把所讨论的最优化问题放到某个希尔伯特空间的框架中去；求导法必须有可行的求导法则，如果未知的变元是向量，矩阵或函数，求导法就不那么直捷了；而配方法则是一种技巧性很强的方法，如果目标函数的表达式比较复杂（例如含有向量和矩阵），那么配方是相当困难的，甚至会束手无策。因此，在不同的场合，根据不同的需要和可能，灵活地使用恰当的方法，是掌握最小二乘法的关键。

3、二阶矩有限的随机变量希尔伯特空间中平稳序列的预测问题的法方程称为关于平稳序列预测问题的yule-walker 方程，试用投影法和求导法推导该方程。该方程的求解算法称为最小二乘算法，请对这些算法的原理予以描述。

考虑二阶矩有限的随机变量希尔伯特空间中的序列{}12,,

x x ，记子空间

{},11,,

,k N k N k N k M span x x x --+-= (3-1)

现在的问题是，用,k N M 中的元素

()

1

N

N k

m k m

m x x α-==∑

(3-2)

来估计k x ，并使得均放误差最小，也就是求系数1,,N αα使得

()

(

){}2

2min N N k k

k k

x x

E x x -=-= (3-3)

这个问题就是随机序列的预测问题。 投影法：

根据投影定理，()

N k x 应是k x 在子空间,k N M 中的投影，即1,

,N αα满足

1,1,

,N

k m k m k l m x x x l N α--=??-⊥= ???

∑ (3-4)

根据空间中的正交性定义，上式即为

{}{}1

,

1,,N

m

k m k l

k k l m E x

x

E x x l N α---===∑ (3-5)

这就是最佳预测的法方程。因为随机序列{}12,,x x 是平稳的，故式(3-5)可

写作

1

,1,,N

m l

m l m r

r l N α-===∑ (3-6)

其中{}m m r E x x ττ+=是该平稳序列的自相关，它满足r r ττ-=。方程(3-6)即为Yule-Walker 方程，它的分量形式为

011111022212

0N N N N N N r r r r r r r r r r r r ααα----????????????

??????=???????

???????????

(3-7) 求导法：

我们先将式(3-3)改写为如下形式

()2

11

,

,min n

n k k

k f x y ααα==-=∑ (3-8)

进一步推导有

()()112

1

11

2

,2,,2n n

k k k k k k n n n

k k k m k m

k k m T T f x y x y x x y y y x Y αααααβααα

=====??=-- ?

??

=-+=-+∑∑∑∑∑

(3-9)

利用求导公式，α应满足220f Y αβα?=-+=，即Y αβ=。

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

4、简述卡尔曼滤波的原理，并指出其可能的应用。

卡尔曼滤波器用反馈控制的方法估计过程状态：滤波器估计过程某一时刻的状态，然后以测量变量的方式获得反馈。因此卡尔曼滤波器可分为两个部分：时间更新方程和测量更新方程。时间更新方程负责及时向前推算当前状态变量和误差协方差估计的值，以便为下一个时间状态构造先验估计。测量更新方程负责反馈——也就是说，它将先验估计和新的测量变量结合以构造改进的后验估计。时间更新方程也可视为预估方程，测量更新方程可视为校正方程。

时间更新方程：

11?k k k x Ax

Bu -

--=+ (4-1)

1T k k P AP A Q --=+ (4-2)

状态更新方程：

1

()T T k k k K P H HP H R ---=+ (4-3)

??()

k k k k k x x K y Hx --

=+- (4-4)

()k k k P I K H P -=- (4-5)

测量更新方程首先做的是计算卡尔曼增益k K 。

其次便测量输出以获得k z ，然后产生状态的后验估计。最后按

()k k k P I K H P -=-产生估计状态的后验协方差。

计算完时间更新方程和测量更新方程，整个过程再次重复。上一次计算得到的后验估计被作为下一次计算的先验估计。由于这种递归很容易实现，所以卡尔曼滤波器得到了广泛的应用。

卡尔曼滤波器可应用于所有的需要对状态进行估计的对象中，目前在无线传感器网络的信息融合，雷达目标跟踪，计算机图像处理等领域都有广泛的应用。

5、 什么是插值？有多少种插值，举一个教材之外的例子说明其应用。

在有的实际问题中，被逼函数()x t 并不是完全知道的，只是知道其在一些采样点处的数值：

(),0,1,

i i x t x i == (5-1)

这时，希望用简单的或可实现的函数()f x 去拟合这些数据。如果恰能做到

()i i f t x =，那么这就为插值；如果办不到，则要考虑最佳逼近问题。 插值的种类：多项式插值，有理插值，指数多项式插值。

插值在图像处理中的应用。在许多实际应用中，需要对图形或图像以某种方式进行放大或缩小。几何变换中的缩放处理可以改变图像或图像中部分区域的大小，但对图像进行缩放的目标是尽量减少变化后图像的空间畸变，插值方法可以帮助我们将这种畸变减少到最少程度。