有关自相关函数的讨论

charlie_zhang

自相关函数，在很多教科书中都有定义，网络上也各种各样的文档，最近由于项目需要理解这个概念。于是恶补了一把，但是很多文档写的不尽相同，表述始终不能让人从背景，基本原理，到应用有很明确的表述。因此特地写了这篇文章，力求明白清晰，达到知其然且知其所以然的目标。

提纲
(1) 随机试验，随机变量，随机过程
(2) 确知函数 随机信号
(3) 自相关函数的定义由来
(4) 噪声形态(民科理解)
(5) 自相关函数的性质
(6) 自相关函数的应用

正文
(1) 随机试验，随机变量，随机过程
     例如丢一个骰子，在丢之前并不能确定它的点数，可能是1-6直接任意一个数。那么这就叫作一次随机试验，而得到的点数就是一个随机变量，即随机变量是同一次随机试验联系起来的。那么这个随机变量从数学上如何去描述它呢，虽然它是不确定的(每次试验得到的数值不确定)，但是变化中总有不变的东西，统计学正是以此为基础。所以才有两个概念期望E(X),方差D(X)的出现，它是为了描述某个随机变量而定义的。
     那么随机过程呢？ 我们进行一次随机试验，产生了随机变量的概念；进行多次随机试验，则产生了随机过程的概念。


(2) 确知函数 随机信号
    确知函数，在接触统计学之前我们了解的函数都是确知函数，即若干个自变量对应一个因变量，有确定的表达式，定义域值域等等。
    而随机信号也是一个函数，只是它是一个函数可能性空间，是函数簇中可能的一个，只有进行了这个随机过程，这个随机信号才会塌缩为一个确知信号，以丢骰子为例，我们连续丢十次骰子，定义为随机过程，它将会产生了随机信号，自变量n=1,2,3...10. 因变量函数值f(n)可能是1-6。只是在进行随机过程之前，我们并不能确定f(n)的表达式，它是可能性函数簇空间中的一个。
    那么根据之前介绍，伴随随机变量我们定义了期望[size=13.3333px]E(X),方差D(X)；那么对着随机过程(信号)的产生，我们是否有了足够的数学描述手段呢？

[size=13.3333px]    那么这里举一个例子: 有两个随机试验a,b. 进行随机试验a一次产生了随机变量X；进行随机试验b一次产生随机变量Y。进行多次随机试验a叫作随机信号u，进行多次随机试验b叫作随机信号v。那产生了如下的随机信号波形

随机过程u,v

   其实随机变量E(X)=E(Y),D(X)=D(Y),那么从波形上可以直观看出，uv两个随机过程并不同，一个变化剧烈，一个变化舒缓，如何刻画这种区别？参考(3)


(3) 自相关函数的定义由来
    直观上我们提出E{[f(t)-f(t-c)]^2}来描述这种差别，当c取某个定值后，用f(t)差距c时间的两个函数值差值的平方的期望来表示相邻时间为c的两个随机变量的相似性，越小则说明相似性越大，极限的当函数f(t)变化特别缓慢时，这个值就很小。虽然容易理解，但是这个定义的值与含义相左。本意是这个值越大，相似性越大；而现在却是反过来了。
   我们展开 E{[f(t)-f(t-c)]^2} = E{f(t)^2} + E{f(t-c)^2} - 2E{f(t)f(t-c)}
   而对于平稳随机过程，
[size=13.3333px]E{f(t)^2}和[size=13.3333px]E{f(t-c)^2}都是常量，具体可参考相关概率论知识。如此还只剩下[size=13.3333px]E{f(t)f(t-c)}这一项，很幸运，这个值越大，相似性就越大，所以我们得到了很多教科书上多典型定义
[size=13.3333px]   R(c) = [size=13.3333px]E{f(t)f(t-c)}


[size=13.3333px](4) 噪声形态(民科理解)
   这里为何要介绍噪声，因为(6)节中会介绍自相关函数的应用，特别提到在信号处理领域，要从被噪声干扰严重的信号中，提取出信号中有的周期分量的应用，那么噪声的形态如何，做个介绍就很有必要性。
   很多书籍介绍白噪声，高斯白噪声之类，从数学角度，能量谱密度为常数。那这里我们解释是这些噪声之间没有关联，完全随机，可以通过多次测量叠加将其减弱，滤除。


(5) 自相关函数的性质
    自相关函数从定义上看还是一个统计性质，对于某个平稳随机过程，只有进行大量试验才能逼近得到自相关函数。如下两种定义
    定义一： 理论定义
[size=13.3333px]                 R(c) = [size=13.3333px]E{f(t1)f(t2)} = [size=13.3333px]E{f(t)f(t-c)}
[size=13.3333px]    定义二： 实践逼近
[size=13.3333px]                 R(c) = 积分f(t)f(t-c)dt，积分变量t从负无穷到正无穷
[size=13.3333px]   性质1： 很明显具有偶函数特性
[size=13.3333px]   性质2： R(0) >= R(c)
[size=13.3333px]   性质3： 当原函数有周期分量时，相关函数也有周期分量,并且能够有效滤除随机的噪声(见(4)定义)


[size=13.3333px](6) 自相关函数的应用
     这里只举一个例子，一个周期信号，被强度很大的噪声淹没了，这个噪声具有特定的形态(见(4))，那么从自相关函数的本身定义二(见(3))出发.
     单次f(t0)f(t0-c)中夹杂着噪声，但是若对单次乘积累加积分，噪声抖动就会被抑制，而信号周期性则会被加强。
     如此就能观察出被噪声严重污染的信号中夹杂的周期分量了。

daor

自相关不是简单说描述某种“相似性”。它还可以表达波动功率及其信号的周期特性的信息。用俗话说，也简单认为是“波动性”，因为自相关也好，互相关也好，数学含义上是“功率”量纲(一个是信号自身的波动性，一个是两个信号之间的相互波动性)，当c = 0时，得到的就是信号自身的功率，数学上也叫方差；当观测 R 随着 c的分布时，你能观测到信号的周期性信息。

多次平均可以减少噪声，来自于高斯白噪声的性质。事实上并非所有的噪声都可以通过求平均来抑制的，幸运的是我们遇到的噪声大多数都是高斯白噪声。如果先不考虑时间，单是对同一个测量变量的多次平均，则高斯性提供的帮助是：
1. 高斯的统计平均收敛于期望值。所以理论上无限多次平均得到的就是期望值。
2. N个同分布的高斯信号叠加，其方差为原来的1/N。数学可以自己推，或者查高斯叠加的性质。这个就给出了一个指导：平均的次数越多，得到的噪声功率越小，测量估值越稳定。

如果涉及到一个随机过程中的时间累积，“白”提供的帮助是：噪声的R与c无关，意味着任何两个时间点之间的噪声值是相互独立的。则时间上的累积，也等同于以上统计上的累积，都可以利用高斯的平均性质。


希望对你有帮助。