压缩感知的历史背景
虽然压缩感知是由E. J. Candes、J. Romberg、T. Tao和D. L. Donoho等科学家在2004年提出的。但是,早在上个世纪,相关领域已经有了相当的理论和应用,包括图像处理、地球物理、医学成像、计算机科学、信号处理、应用数学等。
也许第一个与稀疏信号恢复相关的算法是由法国数学家Prony提出的。这种被称为Prony方法的稀疏信号恢复方法,可以通过求解一个特征值问题,从少量等间距样本中估计出一个稀疏三角多项式的非零幅值和对应的频率。最早采用基于L1范数最小化的稀疏约束的人是B. Logan。他发现,如果数据足够稀疏,通过最小化L1范数,可以有效地从欠采样样本中恢复频率稀疏信号。D. Donoho和B.Logan是信号处理领域的先驱,他们采用L1范数来最小化稀疏约束。而地球物理学家早在七八十年代就开始使用L1范数最小化来分析地震反射信号。20世纪90年代,稀疏重构方法被提出用于从欠采样非等距样本中恢复稀疏傅里叶谱。同时,稀疏信号处理方法也被引入到图像处理中。在统计学中,使用L1范数及相关方法的模型选择问题也同时开始。
基于上述理论,压缩感知创造性地将L1范数最小化的稀疏约束与随机矩阵相结合,以获得最佳的稀疏信号重构性能。
压缩感知基于信号的可压缩性,通过对低维空间、低分辨率、低奈奎斯特采样数据的不相关观测,实现对高维信号的感知,丰富了信号恢复的优化策略,极大地促进了数学理论与工程应用的结合。它是传统信息论的延伸,但它超越了传统的压缩理论,成为一个全新的分支。诞生至今不过五年,但其影响力已经席卷了大部分应用科学。