采样定理:有限个点构建出整个函数
By 苏剑林 | 2015-04-16 | 29591位读者 |假设我们在听一首歌,那么听完这首歌之后,我们实际上在做这样的一个过程:耳朵接受了一段时间内的声波刺激,从而引起了大脑活动的变化。而这首歌,也就是这段时间内的声波,可以用时间$t$的函数$f(t)$描述,这个函数的区间是有限的,比如$t\in[0,T]$。接着假设另外一个场景——我们要用电脑录下我们唱的歌。这又是怎样一个过程呢?要注意电脑的信号是离散化的,而声波是连续的,因此,电脑要把歌曲记录下来,只能对信号进行采样记录。原则上来说,采集的点越多,就能够越逼真地还原我们的歌声。可是有一个问题,采集多少点才足够呢?在信息论中,一个著名的“采样定理”(又称香农采样定理,奈奎斯特采样定理)告诉我们:只需要采集有限个样本点,就能够完整地还原我们的输入信号来!
采集有限个点就能够还原一个连续的函数?这是怎么做到的?下面我们来解释这个定理。
任意给定一个函数,一般来说我们都可以将它做傅里叶变换:
$$F(\omega)=\int_{-\infty}^{+\infty} f(t)e^{i\omega t}dt\tag{1}$$
虽然我们的积分限写了正负无穷,但是由于$f(t)$是有限区间内的函数,所以上述积分区间实际上是有限的。上式的逆变换为
$$f(t)=\frac{1}{2\pi}\int_{-\infty}^{+\infty} F(\omega)e^{-i\omega t}d\omega\tag{2}$$
现在我们来问:傅里叶变换的意义是什么?事实上,它是同一个函数在时域和频域之间的相互变换,通俗地说,刚开始的声波,我们是用时间的函数来描述的,傅里叶变换之后,其自变量就是频率了,即变换后的函数告诉我们,原来的声波是哪些频率的简谐波的叠加。于是我们就到达了关键的一步了,变换之后的频率范围可能是有限的,即在某个区间$[-W,W]$之外,$F(\omega)$恒为0.
让我们来解释一下为什么会有这种现象发生。这种现象的出现,有可能是本质性的,即变换后的函数,真的在某个区间$[-W,W]$之外$F(\omega)$就恒为0,但是,更多的是另外一个情况——我们能接收的频率是有限的。比如,我们耳朵可以听到的声音的频率范围在20到2万赫兹(Hz)之间,那么,在录制声音的时候,我们干嘛要在乎小于20Hz或者大于2万Hz的那部分声音呢?图像也是类似的,我们能看到的电磁波、即可见光的频率,也有一个范围。也就是说,我们在录制一首歌的时候,只要让我们听起来一模一样就行了,不用管它是不是真的一模一样。(如果换一种设备,比如超声波探测仪,我们就可能发现它跟原来的声波不一样的地方,但是我们听歌的时候,哪会去留意超声波探测仪的感觉呢?)
基于上述讨论,我们就可以将$(2)$式的积分截断了
$$f(t)=\frac{1}{2\pi}\int_{-W}^{W} F(\omega)e^{-i\omega t}d\omega\tag{3}$$
注意,现在$F(\omega)$仅仅是$[-W,W]$上的函数了,而有限区间上的函数,可以变换为傅里叶级数(要注意,这里是傅里叶级数,不是傅里叶变换):
$$F(\omega)=\sum_{n=-\infty}^{+\infty}c_n e^{n\pi i\omega/W} \tag{4}$$
接着把$(4)$代入$(3)$,并交换积分号和求和号,得到
$$\begin{aligned}f(t)=&\frac{1}{2\pi}\int_{-W}^{W} \left(\sum_{n=-\infty}^{+\infty}c_n e^{n\pi i\omega/W}\right)e^{-i\omega t}d\omega\\
=&\frac{1}{2\pi}\sum_{n=-\infty}^{+\infty}c_n\int_{-W}^{W} e^{n\pi i\omega/W-i\omega t}d\omega\\
=&\frac{1}{2\pi}\sum_{n=-\infty}^{+\infty}c_n\left.\frac{e^{n\pi i\omega/W-i\omega t}}{i(n\pi /W- t)}\right|_{-W}^W\\
=&\frac{1}{2\pi}\sum_{n=-\infty}^{+\infty}c_n\frac{2\sin(n\pi -W t)}{n\pi /W- t}\\
=&\sum_{n=-\infty}^{+\infty}\left(\frac{c_n W}{\pi}\right)\frac{\sin(n\pi -W t)}{n\pi - Wt}
\end{aligned}\tag{5}$$
现在可以来确定每个$c_n$了,我们看到$c_n$跟$t$无关,我们可以取特殊值,即取$t\to \frac{n\pi}{W}$,然后就可以得出:
$$\frac{c_n W}{\pi}=f\left(\frac{n\pi}{W}\right)$$
也就是
$$f(t)=\sum_{n=-\infty}^{+\infty}f\left(\frac{n\pi}{W}\right)\frac{\sin(n\pi -W t)}{n\pi - Wt}\tag{6}$$
注意到$f(t)$是定义在有限区间内的,当$|n|$足够大的时候$f\left(\frac{n\pi}{W}\right)=0$,换句话说,上式实际上是有限项的和!
$(6)$式就是抽样定理的全部了,它告诉我们,只要采集到有限个样本点的值$f\left(\frac{n\pi}{W}\right)$,我们就可以根据$(6)$式完整地还原出$f(t)$来——至少在我们能感知的范围内是一样的。这就是我在《费曼计算学》上学到的东西之一了。
证明过程中的部分细节可能不十分严谨,但如果你是物理系或者工程系的读者,我想应该觉得足够了;如果你是追求严格的数学爱好者,那么请你把它严格化吧。
转载到请包括本文地址:https://kexue.fm/archives/3266
更详细的转载事宜请参考:《科学空间FAQ》
如果您还有什么疑惑或建议,欢迎在下方评论区继续讨论。
如果您觉得本文还不错,欢迎分享/打赏本文。打赏并非要从中获得收益,而是希望知道科学空间获得了多少读者的真心关注。当然,如果你无视它,也不会影响你的阅读。再次表示欢迎和感谢!
如果您需要引用本文,请参考:
苏剑林. (Apr. 16, 2015). 《采样定理:有限个点构建出整个函数 》[Blog post]. Retrieved from https://kexue.fm/archives/3266
@online{kexuefm-3266,
title={采样定理:有限个点构建出整个函数},
author={苏剑林},
year={2015},
month={Apr},
url={\url{https://kexue.fm/archives/3266}},
}
July 15th, 2015
凡给出了公式总是好的,如果楼主写二维采样定理,恐怕就要图解罗。
July 17th, 2016
你的文章很有趣、有用,怎么无法分享和转载呢?
October 22nd, 2016
不懂傅里叶级数解释得完全下 我读大学