学习压缩感知比较好的文章链接收藏

举报
李锐博恩 发表于 2021/07/15 07:50:06 2021/07/15
【摘要】 一、首推:压缩感知“Hello World”代码初步学习 本文真的对我理解压感起到很大的帮助,特别在OMP(正交匹配追踪重构算法)算法的讲解中,尤为精彩,我从来没有见过哪个博主能如此认真的去一行一行地解释,解读代码,我对此十分感谢。 个人认为,能有超过70%注释的代码才是负责人的代码,当然也是好的代码。本文做到的不仅如此,简直优秀。为此,我一行一行的抄写了里面的代码。 精彩节...

一、首推:压缩感知“Hello World”代码初步学习

本文真的对我理解压感起到很大的帮助,特别在OMP(正交匹配追踪重构算法)算法的讲解中,尤为精彩,我从来没有见过哪个博主能如此认真的去一行一行地解释,解读代码,我对此十分感谢。

个人认为,能有超过70%注释的代码才是负责人的代码,当然也是好的代码。本文做到的不仅如此,简直优秀。为此,我一行一行的抄写了里面的代码。

精彩节选:

1. 原始信号x是什么?我采集的是原始信号x还是y = Ax得到的y?

解答:

记原始信号为x,我们在sensor方得到的原始信号就是n*1的信号x,而在receiver方采集到的信号是y。针对y=Ax做变换时,A(m*n )是一个随机矩阵(真的很随机,不用任何正交啊什么的限定)。通过由随机矩阵变换内积得到y,我们的目标是从y中恢复x。由于A是m*n(m<n)的,所以原信号f(n*1)信号被压缩到y(m*1)。

(我认为蓝色部分是精髓)

2. O M P 重构算法:



  
  1. % 1-D信号压缩传感的实现(正交匹配追踪法Orthogonal Matching Pursuit)
  2. % 测量数M>=K*log(N/K),K是稀疏度,N信号长度,可以近乎完全重构
  3. % 编程人--香港大学电子工程系 沙威 Email: wsha@eee.hku.hk
  4. % 编程时间:20081118
  5. % 文档下载: http://www.eee.hku.hk/~wsha/Freecode/freecode.htm
  6. % 参考文献:Joel A. Tropp and Anna C. Gilbert
  7. % Signal Recovery From Random Measurements Via Orthogonal Matching
  8. % Pursuit,IEEE TRANSACTIONS ON INFORMATION THEORY, VOL. 53, NO. 12,
  9. % DECEMBER 2007.
  10. clc;clear
  11. %% 1. 时域测试信号生成
  12. K=7; % 稀疏度(做FFT可以看出来)
  13. N=256; % 信号长度
  14. M=64; % 测量数(M>=K*log(N/K),至少40,但有出错的概率)
  15. f1=50; % 信号频率1
  16. f2=100; % 信号频率2
  17. f3=200; % 信号频率3
  18. f4=400; % 信号频率4
  19. fs=800; % 采样频率
  20. ts=1/fs; % 采样间隔
  21. Ts=1:N; % 采样序列
  22. x=0.3*cos(2*pi*f1*Ts*ts)+0.6*cos(2*pi*f2*Ts*ts)+0.1*cos(2*pi*f3*Ts*ts)+0.9*cos(2*pi*f4*Ts*ts); % 完整信号,由4个信号叠加而来
  23. %% 2. 时域信号压缩传感
  24. Phi=randn(M,N); % 测量矩阵(高斯分布白噪声)64*256的扁矩阵,Phi也就是文中说的D矩阵
  25. s=Phi*x.'; % 获得线性测量 ,s相当于文中的y矩阵
  26. %% 3. 正交匹配追踪法重构信号(本质上是L_1范数最优化问题)
  27. %匹配追踪:找到一个其标记看上去与收集到的数据相关的小波;在数据中去除这个标记的所有印迹;不断重复直到我们能用小波标记“解释”收集到的所有数据。
  28. m=2*K; % 算法迭代次数(m>=K),设x是K-sparse的
  29. Psi=fft(eye(N,N))/sqrt(N); % 傅里叶正变换矩阵
  30. T=Phi*Psi'; % 恢复矩阵(测量矩阵*正交反变换矩阵)
  31. hat_y=zeros(1,N); % 待重构的谱域(变换域)向量
  32. Aug_t=[]; % 增量矩阵(初始值为空矩阵)
  33. r_n=s; % 残差值
  34. for times=1:m; % 迭代次数(有噪声的情况下,该迭代次数为K)
  35. for col=1:N; % 恢复矩阵的所有列向量
  36. product(col)=abs(T(:,col)'*r_n); % 恢复矩阵的列向量和残差的投影系数(内积值)
  37. end
  38. [val,pos]=max(product); % 最大投影系数对应的位置,即找到一个其标记看上去与收集到的数据相关的小波
  39. Aug_t=[Aug_t,T(:,pos)]; % 矩阵扩充
  40. T(:,pos)=zeros(M,1); % 选中的列置零(实质上应该去掉,为了简单我把它置零),在数据中去除这个标记的所有印迹
  41. aug_y=(Aug_t'*Aug_t)^(-1)*Aug_t'*s; % 最小二乘,使残差最小
  42. r_n=s-Aug_t*aug_y; % 残差
  43. pos_array(times)=pos; % 纪录最大投影系数的位置
  44. end
  45. hat_y(pos_array)=aug_y; % 重构的谱域向量
  46. hat_x=real(Psi'*hat_y.'); % 做逆傅里叶变换重构得到时域信号
  47. %% 4. 恢复信号和原始信号对比
  48. figure(1);
  49. hold on;
  50. plot(hat_x,'k.-') % 重建信号
  51. plot(x,'r') % 原始信号
  52. legend('Recovery','Original')
  53. norm(hat_x.'-x)/norm(x)

3.对上述代码的解读:


CS的前提是信号的稀疏性,这包括信号本身在时域上是稀疏的或者信号经过一定的变换在相应的变换域(包括频域、小波域等)上是稀疏的。通过y=Phi*x得到测量信号(y是M维,Phi是M*N维测量矩阵,x为N维原始信号),这样得到的测量信号y就可以传输或者保存了。但是CS的关键问题是通过一定的算法由y恢复原始信号x,恢复方法是先由y得到原始信号x在变换域上的估计值hat_y,得到hat_y之后经过反变换自然就得到了原始信号的估计值hat_x。本文中讲到的OMP方法实际上是解决如何由y得到hat_y。


最精彩部分:

好了,有了OMP算法,开始对应解释代码:
    for col=1:N;                                  %  恢复矩阵的所有列向量
        product(col)=abs(T(:,col)'*r_n);          %  恢复矩阵的列向量和残差的投影系数(内积值) 
    end
这个循环是让矩阵T的每一列与残差求内各,T一共有N列,这里得到N个内积值存在product里面。内积值最大的即为相关性最强T(:,col)为M*1列向量,r_n初如化为s,是M*1列向量,这里让T(:,col)转置后再与r_n相乘,即一个1*M的行向量与一个M*1的列向量相乘,根据矩阵运算规则结果为一个数(即1*1的矩阵)。
[val,pos]=max(product); 这句话的关键是得到pos,即得到T中的哪一列与残差r_n的内积值最大,也就是哪一列与残差r_n相关性最强。此即 英文步骤中的第二步
Aug_t=[Aug_t,T(:,pos)]; 此即 英文步骤中的第三步 ,将刚刚得到的与残差r_n内积值最大的列存到Aug_t中,这个矩阵随着循环次数(迭代次数)的变换而变化,是M*times的矩阵。
T(:,pos)=zeros(M,1); 这一句是为了下一次迭代做准备的,这次找到了与残差最相关的列,将残差更新后,下次再找与残差仅次于这一列的T的另外一列;
aug_y=(Aug_t'*Aug_t)^(-1)*Aug_t'*s; 这一句即 英文步骤中的第四步 ,这句加上后面一句也是困扰了我好久两句代码,所以得说说:
首先我们针对的是s=T*hat_y,现在是已知s要求hat_y,现在假如说矩阵T为N*N方阵且满秩(即N个未知数,N个独立的方程),那么很容易知道hat_y=T^-1 * s,其中T^-1表示矩阵T的逆矩阵。但是现在T是一个M*N的扁矩阵,矩阵T没有常规意义上的逆矩阵,这里就有“广义逆”的概念(详情参见国内矩阵分析教材),hat_y的解可能是不存在的,我们这里要求的是 最小二乘解 aug_y,最小二乘解aug_y将使s-T*aug_y这个列向量2范数最小。
对于用矩阵形式表达的线性方程组:
它的最小二乘解为:
其中
即为矩阵G的最小二乘广义逆(广义逆的一种)。
有了这些知识背景后代码就容易理解了,在第三步中,得到矩阵T中的与残差r_n最相关的列组成的矩阵Aug_t,而第四步实际上就是在求方程组Aug_t*Aug_y=s的最小二乘解。

r_n=s-Aug_t*aug_y;这一句就是用求得的最小二乘解更新残差r_n,在下一次迭代中使用。注意最小二乘解的含义,它并不是使Aug_t*Aug_y=s成立,而只是让s-Aug_t*aug_y的2范数最小,而r_n就是最小的值。此即 英文步骤中的第五步 ,两个式子合在一起写了。
pos_array(times)=pos; 把与T中与残差最相关的列号记下来,恢复时使用。
到此,主要的for循环就说完了。

hat_y(pos_array)=aug_y; 最后一次迭代得到的最小二乘解aug_y即为恢复的值,位置分别对应于迭代中每一次与残差r_s最相关的矩阵T的列号。hat_y(pos_array)大小是和pos_array大小一样的,并且 hat_y(pos_array)的第k个元素就是pos_array(k)。
hat_x=real(Psi'*hat_y.');此即:

,这里用hat_x以与原如信号x区分,x为原信号,hat_x为恢复的信号。代码中对hat_y取了转置是因为hat_y应该是个列向量,而在代码中的前面hat_y=zeros(1,N); 将其命成了行向量,所以这里转置了一下,没什么大不了的。
matlab运行一下就发现了 psi*hat_y的结果是实数,但是都带着+0.0000i 所以要取实部。

————————————————————————————————————————————————————

是不是对这段代码解读感动的泪流满面。

事实上,学习这段代码的目的并不在此例本身,而是通过对这段代码的学习,来举一反三,应用于自己的工程,或者用于理解自己的工程相关的代码。

为什么会感动,那是因为看到自己的前辈留下来的注释率不到2%的代码砸到你的脸上让你死磕,那种无奈与孤独可曾了解?看到这种代码能不感动吗?这是我等的典范!!!

————————————————————————————————————————————————————

二、姊妹篇,辅助理解上述文章的一篇博文《“压缩感知” 之 “Hello World”

起名为:Hello World,我服。这才是配得上Hello world 之名的博文。

三、基于压缩传感的匹配追踪重构算法研究

这是一篇硕士学位论文,对于研究压感重建算法很有帮助。

主要是中文版的,所以阅读起来障碍会小一点。

文中给出了O M P重建算法的中文版流程:



这只是本论文中的冰山一角,论文继续研读中。

四、宽带接收机中的非均匀采样技术研究

这是西安电子科技大学的一篇硕士论文,哈哈,这是我师兄的一篇毕业硕士毕业论文,虽然没有见过师兄,但觉得师兄应该挺牛的,这是第一个研究这个项目的人,目前此项目由我接手,说来已经经历第三代实验室人了。同时也感谢亲手将此项目传于我的师兄,让我更快的走上了硬件的这条路,还有我的即将离开的研三师兄,你对我的指导也让我感激不尽。

持续更新中。

下面一篇文章,我即将阅读,先保存于此:

MP算法和OMP算法及其思想

文章来源: reborn.blog.csdn.net,作者:李锐博恩,版权归原作者所有,如需转载,请联系作者。

原文链接:reborn.blog.csdn.net/article/details/80600813

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。