魏尔斯特拉斯定理 #

将狄拉克函数理解为函数的极限,可以衍生出很丰富的内容,而且这些内容离严格的证明并不遥远。比如,定义
$$\delta_n(x)=\left\{\begin{aligned}&\frac{(1-x^2)^n}{I_n},x\in[-1,1]\\
&0,\text{其它情形}\end{aligned}\right.$$
其中$I_n = \int_{-1}^1 (1-x^2)^n dx$,于是不难证明
$$\delta(x)=\lim_{n\to\infty}\delta_n(x)$$
这样,对于$[a,b]$上的连续函数$f(x)$,我们就得到
$$f(x)=\int_{-1}^1 f(y)\delta(x-y)dy = \lim_{n\to\infty}\int_{-1}^1 f(y)\delta_n(x-y) dy$$
这里$-1 < a < b < 1$,并且我们已经“不严谨”地交换了积分号和极限号,但这不是特别重要。重要的是它的结果:可以看到
$$P_n(x)=\int_{-1}^1 f(y)\delta_n(x-y) dy$$
是$x$的一个$2n$次多项式,因此上式表明$f(x)$是一个$2n$次的多项式的极限!这就引出了著名的“魏尔斯特拉斯定理”:

闭区间上的连续函数都可以用多项式一致地逼近。

追求严谨的读者会摇头:这是哪门子的证明?是的,这不是严格证明,但离严格证明还有多远呢?有兴趣看严格证明的,可以考虑看齐民友老师的《重温微积分》,就会发现,严格证明其实就是更加细致地讨论和放缩上面几个公式,而且这种讨论并不困难。因此,虽说上面是毫不严谨的引导,但却离严格证明不远。这一切,都归功于我们将$\delta(x)$不严谨地理解为$\delta_n(x)$的极限,而不是理解为一个严格的广义函数。

上述过程实则表明了一个框架,可以让我们分析函数可以用什么函数基底来逼近。构造一个函数列$\{\delta_n(x)\}$,使它作为$\delta(x)$的极限并不困难,首先是归一化,然后是$x=0$的两边要在$n\to\infty$时趋于0,仅此而已。比如下面就是另外一例:
$$\delta_n(x)=\left\{\begin{aligned}&\frac{\cos^n x}{I_n},x\in\left[-\frac{\pi}{2},\frac{\pi}{2}\right]\\
&0,\text{其它情形}\end{aligned}\right.$$
其中$I_n = \int_{-\pi/2}^{\pi/2} \cos^n dx$,这样也有
$$\delta(x)=\lim_{n\to\infty}\delta_n(x)$$
这个极限可以带来什么结果?仿照前面对多项式讨论的过程,假设$- \frac{\pi}{2} < a < b < \frac{\pi}{2}$,那么对于$[a,b]$上的连续函数$f(x)$我们看到
$$\int_{-\pi/2}^{\pi/2} f(y)\delta_n(x-y) dy = \frac{1}{I_n} \int_{-\pi/2}^{\pi/2} f(y)\cos^n (x-y) dy $$
将$\cos^n(x-y)$展开就会发现,上式实际上就是$\sin kx, \cos kx, k=0,1,\dots,n$的线性组合,于是我们也可以得到:

闭区间$[-\pi/2, \pi/2]$上的连续函数都可以用正余弦级数$\{\cos kx, \sin kx\}$一致地逼近。

这也称为魏尔斯特拉斯定理。同样地,上述讨论离一个严格证明并不遥远。

是不是感觉有点不对劲?$\cos x,\sin x$的周期是$2\pi$,你这才逼近了$[-\pi/2,\pi/2]$这么一个$\pi$长度的区间,是不是有点浪费了?事实上,稍微修改上述过程,可以证明

任意$\epsilon > 0$,闭区间$[-\pi+\epsilon, \pi/2-\epsilon]$上的连续函数都可以用正余弦级数$\{\cos kx, \sin kx\}$一致地逼近。

但是,改为$[-\pi, \pi]$就不成立了,只能是依测度收敛或者$L^2$范数收敛,众所周知,傅里叶基础不是一致收敛的。

标准正交基 #

“正交”有助于简化问题,对于几何问题我们喜欢正交坐标系,对于函数问题我们也喜欢正交基。

前面的两个魏尔斯特拉斯定理告诉我们,闭区间上的连续函数既可以用多项式一致逼近,也可以用正余弦级数一致逼近,同时上述过程实际上也给出了求各项逼近系数的方案。但从实际计算来看,上述方式是不实用的,因为从$n$次逼近到$n+1$次逼近,要把所有的系数重新算一次(作为对比,请看泰勒级数的逼近,从$n$到$n+1$只需要多算一项$f^{(n+1)}(x)$,很经济,但泰勒级数条件要求太强。),很不划算。因此需要寻求更有效的计算方案。

我们只在一个闭区间$[a,b]$上讨论,对于两个函数$f(x),g(x)$,我们定义它们的内积为
$$\langle f, g\rangle=\int_a^b f(x)g(x)dx$$
假设函数列$\{e_k (x)\},\, k=0,1,2,\dots$是一组函数基,并满足
$$\langle e_m, e_n\rangle=\delta_{mn}$$
则称为标准正交基。有了这些,我们就可以描述函数的“最优逼近”了。

假设有闭区间$[a,b]$上的函数$f(x)$,并且知道$f(x)$可以用标准正交基$\{e_k (x)\},\, k=0,1,2,\dots$一致地逼近,我们来考虑有限项的和
$$\sum_{k=0}^n \alpha_k e_k(x)$$
我们要考虑用上述有限项级数来最优地逼近$f(x)$,也就是希望是的误差最小,而误差定义为
$$E=\int_a^b \left(f(x)-\sum_{k=0}^n \alpha_k e_k(x)\right)^2 dx$$
所谓最优,就是要调整$\alpha_0,\alpha_1,\dots,\alpha_n$,使得$E$取最小值。由于是有限项级数,因此可以直接对各个$\alpha_k$求偏导,然后解得当
$$\alpha_k = \int_a^b f(x)e_k (x)dx$$
时,$E$最小。因此这就求得了最优逼近。可以看到,这时候如果从$n$次逼近到$n+1$次逼近,我们只需要多算一项$\alpha_{n+1} = \int_a^b f(x)e_{n+1} (x)dx$即可,不用重新计算所有系数。

注意,如果$\{e_k (x)\}$是任意的函数列(不是基,也不一定正交),也可以做上述的优化过程,但是无法保证最后得到的结果真的是逼近原来的函数的,也就是说,可能出现的情况是:不管你怎么增大$n$,最后的逼近误差都不下降。而如果已经证明了$\{e_k (x)\}$可以一致逼近原来函数,那么就可以保证上述优化过程得到的误差是趋于0的——因为都已经是最优解了,最优解都不趋于0,那么怎么会一致收敛到原来的函数呢?

傅里叶级数 #

现在的问题是,如何得到一组标准正交基呢?根据魏尔斯特拉斯定理,我们已经知道幂函数$1,x,x^2,\dots$和正余弦函数$1,\sin x, \cos x, \sin 2x, \cos 2x, \dots$都可以作为一组基,我们先来关注后者。在区间$[-\pi, \pi]$中,可以检验$1,\sin x, \cos x, \sin 2x, \cos 2x, \dots$是正交的,即对于任意自然数$m,n$,有
$$\left\{\begin{aligned}&\int_{-\pi}^{\pi} \cos mx \cos nx = 0\,( m\neq n)\\
&\int_{-\pi}^{\pi} \sin mx \sin nx = 0\,( m\neq n)\\
&\int_{-\pi}^{\pi} \sin mx \cos nx = 0
\end{aligned}\right.$$
而且有
$$\int_{-\pi}^{\pi} \sin^2 mx dx = \int_{-\pi}^{\pi} \cos^2 mx dx = \pi$$
因此
$$\sqrt{\frac{1}{\pi}},\sqrt{\frac{1}{\pi}}\sin x, \sqrt{\frac{1}{\pi}}\cos x, \sqrt{\frac{1}{\pi}}\sin 2x, \sqrt{\frac{1}{\pi}}\cos 2x, \dots$$
就是一组标准正交基。那么就有
$$f(x) = \gamma + \sum_{n=1}^{\infty} \alpha_n \sin nx + \sum_{n=1}^{\infty} \beta_n \cos nx$$
其中
$$\begin{aligned}\gamma=&\frac{1}{\pi}\int_{-\pi}^{\pi} f(x)dx,\\
\alpha_n=&\frac{1}{\pi}\int_{-\pi}^{\pi} f(x)\sin nx dx,\\
\beta_n=&\frac{1}{\pi}\int_{-\pi}^{\pi} f(x)\cos nx dx
\end{aligned}$$
这就傅里叶级数了,但由于我们考虑的是$[-\pi,\pi]$这个区间,因此傅里叶级数只能是依测度收敛或者$L^2$范数收敛,而非一致收敛。而在$[-\pi/2, \pi/2]$区间中,$1,\sin x, \cos x, \sin 2x, \cos 2x, \dots$并非正交,需要正交化操作。

正交多项式 #

前面已经探讨了正余弦级数的逼近问题,得到的结果是傅里叶级数。那么对于魏尔斯特拉斯定理的另外一组基——幂函数基,又要怎么处理呢?正余弦函数天然的正交性使得问题可以简化不少,而幂函数并没有正交性,因此只能施行正交化操作了。

最知名的正交化操作当属格拉姆-施密特正交化(Gram-Schmidt正交化)了,在基本的线性代数教程都有描述,在此不再赘述。对基$\{x^n\},\,n=0,1,2,\dots$,在区间$[-1,1]$进行施密特正交化后的结果是:

$$\begin{array}{c|c} \hline
n & P_n(x) \\
\hline
0 & 1 \\
1 & x \\
2 & \frac{1}{2}(3x^2-1)\\
3 & \frac{1}{2}(5x^3-3x)\\
4 & \frac{1}{8}(35x^4-30x^2+3)\\
\vdots & \vdots\\
\hline\end{array}$$
这些多项式$P_n(x)$称为“勒让德多项式”,它们是正交的,但还不是归一化的。将它们归一化后成为$\hat{P}_n(x)$,然后我们就可以写出类似傅里叶级数的结果:
$$f(x)=\sum_{n=0}^{\infty} \alpha_n \hat{P}_n (x)$$
其中
$$\alpha_n = \int_{-1}^1 f(x)\hat{P}_n (x) dx$$

其它级数逼近 #

正余弦函数逼近也可以看成是以虚指数$e^{ikx},\,k=0,\pm 1,\pm 2,\dots$为基的逼近,一个很自然的问题是,能不能用实指数$e^{kx}$逼近?

显然,根据前面的经验,这取决于我们能否用指数函数来构造出一个狄拉克函数列来。我们可以考虑双曲余弦$\cosh x$,它是一个偶函数,在$x=0$附近像开口向上的抛物线那样。如果我们考虑区间$[-1, 1]$,那么可以考虑
$$\delta_n (x) = \frac{(\cosh 1 - \cosh x)^n}{I_n},\quad I_n = \int_{-1}^1 (\cosh 1 - \cosh x)^n dx$$
不难得到$\lim_{n\to\infty} \delta_n (x) = \delta (x)$,于是可以考虑函数列
$$\frac{1}{I_n}\int_{-1}^1 f(y)[\cosh 1 - \cosh (x-y)]^n dy $$
可以用这个函数列来逼近$f(x)$。直接展开它,就知道它是$\cosh kx,\sinh kx, k = 0,1,2,\dots,n$的线性组合,也就是$e^{kx},\,k=0,\pm 1,\pm 2,\dots, \pm n$的线性组合。因此,是可以用实指数来逼近的。

那就奇怪了,既然虚实指数都可以逼近,为什么只有虚指数逼近(傅里叶级数)被广泛研究呢?笔者猜测,主要原因就是它不好看、不实用吧。这些逼近都是在有限区间内的,而傅里叶级数是周期函数,研究了一个有限区间,就等价于研究了全部了;而实指数只研究一个区间,依然对整体没有帮助,何况它同时包含了$e^x$和$e^{-x}$,这导致它在$x\to+\infty$、$x\to -\infty$都是发散趋势,没有任何优势。

转载到请包括本文地址:https://www.kexue.fm/archives/4187

更详细的转载事宜请参考:《科学空间FAQ》

如果您还有什么疑惑或建议,欢迎在下方评论区继续讨论。

如果您觉得本文还不错,欢迎分享/打赏本文。打赏并非要从中获得收益,而是希望知道科学空间获得了多少读者的真心关注。当然,如果你无视它,也不会影响你的阅读。再次表示欢迎和感谢!

如果您需要引用本文,请参考:

苏剑林. (Jan. 11, 2017). 《狄拉克函数:级数逼近 》[Blog post]. Retrieved from https://www.kexue.fm/archives/4187

@online{kexuefm-4187,
        title={狄拉克函数:级数逼近},
        author={苏剑林},
        year={2017},
        month={Jan},
        url={\url{https://www.kexue.fm/archives/4187}},
}