1、读焦李成压缩感知回忆与展望有感 压缩感知回忆与展望-焦李成 1.概论 压缩感知是建立在矩阵分析、统计概率论、拓扑几何、优化与运筹学、泛函分析等根底上的一种全新的信息获取与处理的理论框架.它基于信号的可压缩性，通过低维空间、低分辨率、欠nyquist采样数据的非相关观测来实现高维信号的感知.压缩感知不仅让我们重新审视线性问题，而且丰富了关于信号恢复的优化策略，极大的促进了数学理论和工程应用的结合.2.背景及意义 压缩感知理论的提出。 随着当前信息需求量的日益增加，信号带宽越来越宽，在信息获取中对采样速率和处理速度等提出越来越高的要求.而传统的奈奎斯特采样定理在对信号进行采样时，采样速率必须是信号
2、带宽的两倍才能保证原始信号无失真地恢复。由ddonoho、e.cand.s及华裔科学家tao等人提出的压缩感知（compressivesensing，cs）理论指出了一条将模拟信号“经济地转化为数字形式的压缩信号的有效途径。在该理论下，信号的采样速率不再取决于信号的带宽，而是取决于信息在信号中的结构与内容，因此在满足的两大特性：（1）信号的可压缩性，（2）表示系统与观测系统的不相关性两大条件下，从低分辨观测中恢复高分辨信号就成为了可能.cs理论显著降低数据存储和传输代价，以及信号处理时间和计算本钱。cs被美国科技评论评为“202223年度十大科技进展，d.donoho因此还获得了“202223
3、年ieeeit学会最正确论文奖。cs的开展：分布式cs理论，1-bitcs理论，bayesiancs理论，无限维cs理论，变形cs理论、谱cs、边缘cs理论、kroneckercs理论、块cs理论等。2023年4月，第一本关于cs的专著compressedsensing：theoryandapplications出版，聚集了世界各国学者在cs理论和应用上的观点和成功范例.cs理论与奈奎斯特采样定理的区别： 尽管压缩感知理论最初的提出是为了克服传统信号处理中对于奈奎斯特采样要求的限制，但是它与传统采样定理有所不同.首先，传统采样定理关注的对象是无限长的连续信号，而压缩感知理论描述的是有限维观测向
4、量空间的向量;其次，传统采样理论是通过均匀采样（在很少情况下也采用非均匀采样）获取数据，压缩感知那么通过计算信号与一个观测函数之间的内积获得观测数据;再次，传统采样 恢复是通过对采样数据的sinc函数线性内插获得（在不均匀采样下不再是线性内插，而是非线性的插值恢复），压缩感知采用的那么是从线性观测数据中通过求解一个高度非线性的优化问题恢复信号的方法.首先介绍压缩感知的数学模型.3.cs理论的根本框架 4. 信号x的稀疏表达 ，。为正交基字典矩阵。 对信号x执行一个压缩观测。，。为观测矩阵，两者不相关。 从y中恢复x是一个解线性方程组的问题，但从方程上看，这似乎是不可 能的，因为这是一个未知数个
5、数大于方程个数的病态方程，存在无穷多个解.但是记cs信息算子acs=。，可以得到： 虽然从y中恢复。也 是一个病态问题，但是因为系数。是稀疏的，这样未知数个数大大减少，使得信号重构成为可能.那么在什么情况下 的解是存在的呢。可以 证明。只要矩阵acs中任意2k列都是线性独立的，那么至少存在一个k-稀疏的系数向量。满足 .换言之，在满足上述要求的情况下，通过求解一个非线性 优化问题就能从观测y、观测矩阵。和字典矩阵。中近乎完美的重建信号x.信号压缩感知的过程如图2所示： 3.1压缩感知的条件两个条件： 1.要满足信号在正交基字典矩阵。下的稀疏性或可压缩性，即信号需要在变换空间下的展开系数足够的稀
6、疏; 2.由观测系统。所确定的cs信息算子acs，需要满足任意2k列都是线性无 关的.在这两个条件都同时满足时，就可以通过求解如下问题：获得一个唯一确定的解，即稀疏系数向量。，将它与字典。相乘，就可以得到信号x. 这是一个np-hard的非凸优化问题，此问题的求解方法两类：以匹配追踪 （matchingpursuit，mp）和正交匹配追踪（orthogonalmatchingpursuit，omp）为代表的贪婪算法，以及迭代阈值收缩为代表的门限算法. 贪婪算法存在的问题是时间代价过高，无法保证收敛到全局最优;而门限算法虽然时间代价低，但对数据噪声十分敏感，解不具有连续性，且不能保证收敛到全局极
7、小. 由cand.s和donoho提出的l1范数下的凸化压缩感知恢复框架是一个里程碑式的工作.根本思想是将非凸的优化目标用l1范数来代替： 这就将式非凸优化问题变成了一个凸优化问题，可以方便地转化为线性规划问题求解，因此称之为凸化的压缩感知框架。 cs理论提出之初，绝大多数研究都建立在此根底上.在有限等距性质（restrictedisometryproperty，rip）和有限等距常数（restrictedisometryconstant，ric）框架下，一些学者证明了范数l1和范数l0的等价条件，202223年，cand.s给出了有限等距常数需满足的条件：。lai等人将此界放松：。2s 2s
8、 即，首先产生一个随机观测矩阵，然后利用信号的稀疏基的信息，训练学习出一个优化观测矩阵，相比随机观测矩阵，优化之后得到的观测矩阵与字典矩阵之间具有更低的相干性.采用最近martin提出k-svd方法求解式（9）中的优化问题，可以根据字典矩阵优化求解确定性的观测矩阵，观测矩阵的优化过程如下列图。将优化观测矩阵用于压缩感知理论应用中，能够提高信号的重构精度或者在相同的重构精度下具有更少的测量数目. 4.压缩信息获取单像素相机的应用。 5.压缩感知信号恢复 l1范数下的凸化压缩感知框架lp范数下的松弛压缩感知框架l0范数下的非凸压缩感知框架6.压缩感知应用 压缩成像：传统的成像方式完全不同;压缩感知
9、成像可以从以远低于nyquist采样率的采样率获取高质量的图像，有效降低了传感器数目与硬件本钱，为微波、医疗成像提供了新的理论和方法，目前在医疗成像、光学成像、对地观测等领域得到了成功的应用.第一个被广泛认可的实际系统就是美国rice大学baraniuk等人研制出的单像素相机，类似的系统还有kir研制的analog-to-informationconverter（aic）、莱斯大学rbaraniuk教授研制的单像素相机和a/i转换器、麻省理工学院研制的mrirf脉冲设备、麻省理工学院wtfreeman教授研制的编码孔径相机、耶鲁大学研制的超谱成像仪、伊利诺伊州立大学omilenkovic研制
10、的dna微阵列传感器，以及我国中科院研制的cs滤波器和混沌腔等.美国darpa（defenseadvancedresearchprojectsagency）资助的montage（multipleopticalnon-redundantaperturegeneralizedsensors）研究方案极具应用潜力，目前已完成焦平面编码等技术可行性的实验验证.在国内，自202223年973方案开始资助中科院电子所、北京航空航天大学、西安电子科技大学、清华大学、上海交通大学等单位开展“稀疏微波成像的研究.压缩机器学习： 展望和总结 压缩感知理论利用了信号的稀疏特性，将原来基于奈奎斯特采样定理的信号采样过
11、程转化为基于优化计算恢复信号的观测过程.本文对压缩感知理论框架的全过程进行了描述，详细阐述了压缩感知理论所涉及的关键技术，综述了国内外研究成果、存在的公开问题及最新的相关理论. 尽管目前关于cs的研究非常多，但作者认为有如下几点内容可供读者参考：（1）在稀疏表示方面，低秩表示和流形结构与稀疏性有着密切联系，将其引入信号的稀疏表示有望得到更好的结果;（2）在压缩观测方面，目前的做法大都采用线性观测的方式，如果能考虑实际环境中的可能噪声，在观测时引入某些局部的非线性操作，将有望得到更加鲁棒的观测;（3）在优化重建方面，如果能联合信号的先验和稀疏性先验求解优化问题，将有望得到更好的恢复效果. 第7页 共7页
