图像Demosaic算法1、 马赛克成因 一般的数码相机采用CDC或CMOS做传感器,约占数码相机总成本的10%一25%,是相机的最昂贵的部件之一"对于专业相机,如用在科学或医学中的,使用了三个传感器,每一个像素点都可以直接获得RGB三个值,每一个传感器需要精确的机械控制,以便对应着各自的色彩通道,这是最昂贵的解决方法"在这种情况下,每一个传感器得到一幅完整的单通道图像,最后再合成一幅全彩色图像"不出现马赛克现象"为了减少成本,缩小数码相机的体积,一般市场上的相机大都是单传感器,在传感器的上面覆盖了一层按照Bayer模式排列的色彩滤波阵列,每一个像素点只能够捕获一个色彩值,而缺失另外两个色彩值,这时候得到的是一幅马赛克图像,为了得到全彩色的图像,我们需要利用其周围的像素点的色彩值来估计出缺失的另外两种颜色,这种处理叫做去马赛克"二、常见的demosaic方法 关于 demosaicing 方法在过去二十年中一直是研究热点,已有的文献中就报道了大量有价值的插值算法,一般来说算法可以分为两类第一类是单个颜色通道独立插值算法,包括邻域插值法、双线性插值法、卷积插值法等,规律是未知的绿色分量值仅由已知的绿色像素的强度进行估算,对红和蓝色通道亦是如此。
其中最典型、应用最多的是双线性法这一类算法容易实现,在平滑区域内也可以得到比较满意的效果,但在高频区域,尤其是在边界区域却失真明显第二类则是利用多通道的相关性进行插值,这一类自适应的算法常常结合了对图像细节的分析判断以及颜色通道之间的相关性,插值效果要明显优于前一类,大部分的算法都属于这一类例如基于边界的算法,加权系数法,交互式插值法,最优化恢复,也有部分算法利用了信号变换如小波变换,傅立叶变换等,这些算法通常能得到比较满意的效果,尤其是清晰的边界与细节特征,但往往算法复杂,无法应用于数码相机信号转换系统1) 双线性插值法双线性(bilinear)法属于单通道独立插值法,作为最传统、简单、基础的插值算法之一,它仍然是理解并设计新型算法的基础,对参考评估其它算法的性能仍具有广泛的意义,参考图 3-1,该图为标注了坐标位置的 Bayer 采样阵列,传感器只获得相应位置所对应的单色分量的强度考虑坐标(3,3),此处只有红色信息,为了得到全彩色信息,必须恢复出蓝色和绿色分量,利用双线性法可以得到:由于双线性法是单通道之间独立插值,并且始终取 3×3 滤波器的平均值,忽略了细节信息,以及图片三个颜色通道之间的相关性,所以双线性法往往不能得到满意的插值效果,容易在细线状态结构的边缘处产生锯齿形图案。
2) 自适应插值法在 Bayer 格式中,绿色像素占了总像素的一半,也反映了更多的细节,因此,插值都会优先考虑对绿色通道的恢复,而红色和蓝色的比例较少,细节信息少,需要估算的信息多,失真会明显,为改进算法的性能,多会从改善红色与蓝色通道着手为合理解决边界的插值问题,研究人员提出了基于梯度的插值算法为保证插值是沿着边界进行,而没有跨越边界,在恢复绿色分量时,先通过计算梯度来检测边界方向,从而选择合适的插值方向例如,为恢复出采样点的绿色分量,先计算出该点水平和竖直方向的梯度算子参考图 3-1,以 B44为例,假设α 为该采样点水平方向的梯度,β 为竖直方向的梯度,Laroche则通过计算二阶微分即色度分量来确定边界方向,其中:如果 α < β,则认为水平方向存在边界的概率比较大,插值会沿着最可能的边界进行,即在水平方向进行,而水平方向的邻域像素与被插值点的像素的相关性也会大于竖直方向的像素插值结果如下式所示:如果 α > β,则认为在竖直方向存在边界的概率大,插值在竖直方向进行,插值结果为:如果两者相比较相等的话,则认为该像素点处在一个平滑区域内,插值在整个邻域内进行,认为:一旦亮度被确定,则色度分量通常是由亮度信号和色度信号的相关性来进行插值。
第二步:在对红色和蓝色通道插值时,用到的基本思想是基于色差的插值算法色差思想与色比恒定的思想是一致的,它认为在图片的小平滑区域内,色差是恒定的假设 (i ,j)邻近的一个采样点是 ( m, n),则有:上面的等式成立即是利用了色差恒定的原则假设我们需要恢复红色通道信息,根据阵列的排列规律,有三种不同的情况,分别如下:(1) 假设要恢复 G34处的红色分量:(2) 假设要恢复 G43处的红色分量:(3)假设要恢复 B44处的红色分量:蓝色通道处理往往是与红色通道一致,必须注意的是在色度值确立之时,已经获得了整个图片的亮度信号经过这两个步骤的处理,可以获得 Bayer 图片的重构图像以上所述,即是自适应插值法的过程3、 实验结果原图Bayer阵列非自适应插值(双线性)自适应插值法4、 总结通过三类图像的比较,可以看出真彩色图像的三个颜色通道之间有很强的相关性,插值最好结合其相关性,而不能依赖于单通道独立插值;其次,由于图片的失真往往出现在高频区域,必须考虑基于边界的插值方案,对图像的区域细节特征进行分析,使得插值尽可能沿着边界方向,或是使得边界方向插值核的加权系数尽可能大附录:Matlab代码%双线性插值clear;clc;I=imread('9.jpg');figureimshow(I);[h,w,c]=size(I);[m,n]=size(I);m=h,n=w;for i=1:2:h for j=1:w if mod(j,2)==1 IMG(i,j,1)=I(i,j,1); else IMG(i,j,2)=I(i,j,2); end endendfor i=2:2:h for j=1:w if mod(j,2)==1 IMG(i,j,2)=I(i,j,2); else IMG(i,j,3)=I(i,j,3); end endendfigureimshow(IMG);%IMG11=rgb2gray(IMG);%save('Bayer.png','IMG11')IMG=double(IMG);for i=2:2:m-1 for j=2:2:n-1 x11 = IMG(i-1,j-1,1); x12 =IMG(i-1,j+1,1); x21 = IMG(i+1,j-1,1); x22 = IMG(i+1,j+1,1); IMG(i,j,1) = uint8( ( x11+x21+x12+x22)/4 ); endendfor i=2:m-1 for j=2:n-1 if IMG(i,j,1)==0 IMG(i,j,1)=0.25*(IMG(i,j+1,1)+IMG(i,j-1,1)+IMG(i+1,j,1)+IMG(i-1,j,1)); else IMG(i,j,1)=IMG(i,j,1); end end endfor i=2:2:m-1 for j=2:2:n-1 IMG(i,j,2)=0.25*(IMG(i,j+1,2)+IMG(i,j-1,2)+IMG(i+1,j,2)+IMG(i-1,j,2)); endendfor i=2:m-1 for j=2:n-1 if IMG(i,j,2)==0 x11 = IMG(i-1,j-1,2); x12 =IMG(i-1,j+1,2); x21 = IMG(i+1,j-1,2); x22 = IMG(i+1,j+1,2); IMG(i,j,2) = uint8( 0.25*( x11+x21+x12+x22) ); else IMG(i,j,2)=IMG(i,j,2); end endendfor i=3:2:m-1 for j=3:2:n-1 x11 = IMG(i-1,j-1,3); x12 = IMG(i-1,j+1,3); x21 = IMG(i+1,j-1,3); x22 = IMG(i+1,j+1,3); IMG(i,j,3) = uint8( 0.25*( x11+x21+x12+x22) ); endendfor i=2:m-1 for j=2:n-1 if IMG(i,j,3)==0 IMG(i,j,3)=0.25*(IMG(i,j+1,3)+IMG(i,j-1,3)+IMG(i+1,j,3)+IMG(i-1,j,3)); else IMG(i,j,3)=IMG(i,j,3); end endendfigureimshow(uint8(IMG)); %梯度clear;clc;I=imread('DD.jpg');figureimshow(I);[h,w,c]=size(I);m=h;n=w;R=zeros(m,n);G=zeros(m,n);B=zeros(m,n);R1=zeros(m+4,n+4);G1=zeros(m+4,n+4);B1=zeros(m+4,n+4);for i=1:2:h for j=1:w if mod(j,2)==1 IMG(i,j,1)=I(i,j,1); else IMG(i,j,2)=I(i,j,2); end endendfor i=2:2:h for j=1:w if mod(j,2)==1 IMG(i,j,2)=I(i,j,2); else IMG(i,j,3)=I(i,j,3); end endendR=IMG(:,:,1);G=IMG(:,:,2);B=IMG(:,:,3);R1(3:m+2,3:n+2)=R;R1(3:m+2,1)=R(:,2);R1(3:m+2,2)=R(:,1);R1(3:m+2,n+3)=。