数字信号处理（1）：先修知识

函数的正交性

• 矢量分解：
  如果我们有一个二维的矢量a⃗ ={x1,y2} ,如何将其用一个矢量e⃗ 近似的表示 ， 也即将a⃗  表示为如下形式：
  
  a⃗ ≈λe⃗ 
  
  设θ为a⃗ 与e⃗ 的夹角，如下图所示：
  
  
  

其中红色虚线代表近似矢量与实际矢量之间的差距,可以看出,当矢量垂直投影时误差最小，所以将λ 表示如下

其中 <⋅,⋅> 为两矢量的内积

由上式能看出，a⃗  在e⃗  上有分量，分量的大小即为λe⃗ 。当θ=90∘ 时，a⃗ 在 e⃗  上没有分量，两向量正交。基于此，在二维空间中我们可以将a⃗  分解到两个正交的矢量上。这种矢量分解法可以推广到n维空间中。

• 函数分解：

首先假设有两个高维的矢量求解内积，a⃗ ={x0,x1,x2,⋯,xn} ,b⃗ ={y0,y1,y2,⋯,yn} ,则

类似上述矢量内积分析，假设有一函数f(t) ，要在区间t1<t<t2 上用g(t) 近似表示，即表示为f(t)≈λg(t)。 即容易想到，λ 最合适的取值必须是使得实际函数与近似函数之间的“距离”最小。这里的距离采用方均误差ϵ2¯¯¯来表示:

ϵ2¯¯¯ 取得极小值时，dϵ2¯¯dt=0 ，解得λ 为：

观察（2）式，可以发现其与（1）式具有相同的形式。从中可以看出，g(t)中存在有f(t)的分量，分量的大小即为λg(t)。而当∫t2t1f(t)g(t)dt=0时，也即g(t)中不存在f(t)的分量，这时我们称f(t)与g(t)正交。

将f(t),g(t)在t1∼t2上的内积定义如下：

关于复线性空间

以上讨论的都是实数情形，下面讨论复数空间的内积。

• 线性空间内积的性质

  在介绍复数空间的计算公式之前，先介绍线性空间内积的性质。

  共扼对称性：<x⃗ ,y⃗ >=<y⃗ ,x⃗ >∗
  线性 ：<αx⃗ +βy⃗ ,z⃗ >=α<x⃗ ,z⃗ >+β<y⃗ ,z⃗ >
  正定性 ：<x⃗ ,x⃗ >≥0

• 复线性空间的内积公式

  设x⃗ ,y⃗ 为两个n维复向量,xi,yi为其中的第i个元素 ，其内积定义为：
  

  <x⃗ ,y⃗ >=∑i=1nxiy∗i(4)

  可以看出，复线性空间的内积与实线性空间的稍有区别，但是二者都必须满足上面所述线性空间的三条基本性质。简单的说，可以将实线性空间看成复线性空间的一种特例。

  类比(3) (4)，我们可以直接给出复变函数内积的表达式:
  

  <f(t),g(t)>=∫t2t1f(t)g(t)∗dt(5)
  
  同样的，我们可以将公式（2）推广到复变函数的情形：
  
  λ=∫t2t1f(t)g(t)∗dt∫t2t1g(t)g(t)∗dt(6)

正交函数集
假设有n个函数，f1(t),f2(t),⋯,fn(t)构成一个函数集合，在特定区间(t1,t2)上，任意两个函数之间两两正交，任意一个函数与自己的内积为一个常数。数学语言表达为：

则我们称这样的一个集合为正交函数集