中南大学信息论编码(共21页)

《中南大学信息论编码(共21页)》由会员分享，可在线阅读，更多相关《中南大学信息论编码(共21页)（21页珍藏版）》请在金锄头文库上搜索。

1、精选优质文档-倾情为你奉上专心-专注-专业中南大学中南大学信息论编码实验报告信息论编码实验报告题 目 信息论编码 学生姓名 指导教师 学 院 学 号 专业班级 完成时间 实验一实验一 关于信源熵的实验关于信源熵的实验精选优质文档-倾情为你奉上专心-专注-专业一、实验目的一、实验目的1. 掌握离散信源熵的原理和计算方法。2. 熟悉 matlab 软件的基本操作，练习使用matlab 求解信源的信息熵。3. 自学图像熵的相关概念，并应用所学知识，使用matlab 或其他开发工具求解图像熵。4. 掌握 Excel 的绘图功能，使用 Excel 绘制散点图、直方图。二、实验原理二、实验原理1. 离散信

2、源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。随机事件的自信息量 I（xi）为其对应的随机变量xi 出现概率对数的负值。即：I（xi）= -log2 p(xi)随机事件X 的平均不确定度（信源熵）H（X）为离散随机变量xi 出现概率的数学期望，即：H(X )=- p(x )I (x ) =-p(x ) log p(x )2. 二元信源的信息熵设信源符号集 X=0，1，每个符号发生的概率分别为p(0)=p，p(1)=q，p+ q=1，即信源的概率空间为 则该二元信源的信源熵为：H(X) = - p log p q log q = - p log p

3、(1- p) log (1- p)即：H (p) = - p log p (1- p) log (1- p) 其中 0 p 13. MATLAB 二维绘图用 matlab 中的命令plot(x, y)就可以自动绘制出二维图来。例 1-2，在matlab 上绘制余弦曲线图，y = cos x，其中0 x 2。x=0:0.1:2*pi； %生成横坐标向量，使其为0，0.1，0.2，6.2y=cos(x)； %计算余弦向量plot(x,y) %绘制图形4. MATLAB 求解离散信源熵精选优质文档-倾情为你奉上专心-专注-专业求解信息熵过程：1) 输入一个离散信源，并检查该信源是否是完备集。2) 去

4、除信源中符号分布概率为零的元素。3) 根据平均信息量公式，求出离散信源的熵。5. 图像熵的相关知识图像熵是一种特征的统计形式，它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量，令Pi 表示图像中灰度值为 i 的像素所占的比例，则定义灰度图像的一元灰度熵为： 图像熵计算过程：1) 输入一幅图像，并将其转换成灰度图像。2) 统计出图像中每个灰度阶象素概率。3) 计算出一幅图像的一维熵。6. Excel 的绘图功能比如：用 Excel 或制作二元熵函数曲线。具体步骤如下：1）启动Excel 应用程序。2）准备一组数据p。在Excel 的一个工作表的A 列（或其它

5、列）输入一组p，取步长为0.01，从0 至100 产生101 个p（利用Excel 填充功能）。3）使用Excel 的计算功能，在B 列中用二元熵函数计算公式，求得A 列中各数值对应的二元熵值。比如：在单元格B2 中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。4）使用Excel 的图表向导，图表类型选“XY 散点图”，子图表类型选“无数据点平滑散点图”，绘制二元熵函数散点图。三、实验内容三、实验内容1、使用matlab 软件绘制二元信源熵函数曲线，并说明其物理意义。其程序源代码为：p=0.00000:0.001:1;h=-p.*log2(p)-(1-p).*l

6、og2(1-p);plot(p,h);title(二元信息熵函数曲线)；结果为：精选优质文档-倾情为你奉上专心-专注-专业00.10.20.30.40.50.60.70.80.9100.10.20.30.40.50.60.70.80.91二 二 二 二 二 二 二 二 二因为信源熵表征信源的平均不确定度，而由图表可以看出，当二元信源的符号的发生概率越高或越低时，信源的不确定性越低，反之，则不确定性越高。2、使用matlab 软件求解离散单符号信源熵，请自己构造两个信源空间，根据求解结果说明其物理意义。（1）设事件为今天的天气状况为X，有三种情况，分别为晴天，阴天，雨天 其概率分别为1/2，1/

7、3 1/6，则：其源代码为：p1=1/2 1/3 1/6h=sum(-p1.*log2(p1)结果为：h=1.4591结果表示其事件的信源熵。（2）设学校有四个食堂，去四个食堂的概率分别为1/4，1/8，1/8，1/8，则有：p2=1/4 1/8 1/2 1/8h=sum(-p2.*log2(p2)结果为：H=1.75003、使用matlab 软件计算图像一维图像熵，请自己选择任意两幅图像，根据求解结果说明其物理意义。其源代码程序为：精选优质文档-倾情为你奉上专心-专注-专业lename = mao3.jpg;imfinfo(filename) imgRgb = imread(filename

8、); imshow(imgRgb); A = rgb2gray(imgRgb); figure imshow(A); imwrite(A, mao4.jpg);M,N=size(A);fip=zeros(256,1); for m=1:M; for n=1:N; if A(m,n)=0; i=1; else i=A(m,n); end p(i)=p(i)+1; endendp=p./(M*N) result=0; for i=1:length(p) if p(i)=0; result=result; else result=result-p(i)*log2(p(i); endendresult

9、原图片为：精选优质文档-倾情为你奉上专心-专注-专业转化为灰度图：统计结果为：p = 精选优质文档-倾情为你奉上专心-专注-专业 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0000 0.0000 0.0000 0.0000 0.0000 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0001 0.0002 0.0002 0.0002 0.0002 0.0004 0.0008 0.0018 0.0023 0.0034 0.0017 0.0004 0.0003 0.0003 0.0003 0.0003

10、 0.0003精选优质文档-倾情为你奉上专心-专注-专业 0.0003 0.0003 0.0003 0.0003 0.0002 0.0003 0.0003 0.0003 0.0002 0.0004 0.0003 0.0003 0.0003 0.0003 0.0004 0.0003 0.0004 0.0003 0.0003 0.0003 0.0003 0.0003 0.0004 0.0004 0.0004 0.0005 0.0004 0.0004 0.0004 0.0004 0.0004 0.0005 0.0004 0.0005 0.0005 0.0005 0.0006 0.0005 0.000

11、5 0.0007 0.0006 0.0007 0.0008 0.0012精选优质文档-倾情为你奉上专心-专注-专业 0.0019 0.0028 0.0037 0.0034 0.0030 0.0033 0.0028 0.0026 0.0023 0.0022 0.0020 0.0021 0.0022 0.0020 0.0021 0.0020 0.0020 0.0022 0.0023 0.0022 0.0025 0.0026 0.0025 0.0027 0.0028 0.0028 0.0030 0.0034 0.0031 0.0029 0.0030 0.0030 0.0032 0.0031 0.00

12、34 0.0031 0.0031 0.0038 0.0040 0.0042 0.0042 0.0042 0.0046 0.0045精选优质文档-倾情为你奉上专心-专注-专业 0.0047 0.0054 0.0056 0.0066 0.0068 0.0070 0.0074 0.0097 0.0118 0.0183 0.0153 0.0111 0.0091 0.0068 0.0063 0.0054 0.0057 0.0060 0.0058 0.0061 0.0060 0.0061 0.0058 0.0061 0.0066 0.0064 0.0062 0.0067 0.0069 0.0071 0.0

13、069 0.0067 0.0065 0.0073 0.0073 0.0080 0.0079 0.0085 0.0087 0.0089 0.0084 0.0090 0.0075 0.0069精选优质文档-倾情为你奉上专心-专注-专业 0.0066 0.0067 0.0061 0.0059 0.0061 0.0059 0.0060 0.0058 0.0054 0.0058 0.0053 0.0054 0.0052 0.0058 0.0056 0.0060 0.0060 0.0061 0.0064 0.0067 0.0066 0.0067 0.0074 0.0074 0.0073 0.0075 0.

14、0074 0.0071 0.0073 0.0070 0.0069 0.0073 0.0070 0.0072 0.0074 0.0072 0.0069 0.0069 0.0076 0.0069 0.0074 0.0073 0.0073 0.0072精选优质文档-倾情为你奉上专心-专注-专业 0.0080 0.0077 0.0080 0.0086 0.0089 0.0094 0.0096 0.0095 0.0102 0.0102 0.0104 0.0116 0.0112 0.0091 0.0088 0.0090 0.0085 0.0081 0.0072 0.0059 0.0051 0.0045 0

15、.0045 0.0031 0.0026 0.0024 0.0022 0.0019 0.0017 0.0014 0.0012 0.0012 0.0010 0.0010 0.0007 0result = 7.3654精选优质文档-倾情为你奉上专心-专注-专业原图为：转化为灰度图为p = 0 0精选优质文档-倾情为你奉上专心-专注-专业 0 0 0.0000 0.0000 0.0003 0.0010 0.0011 0.0006 0.0003 0.0005 0.0006 0.0007 0.0011 0.0015 0.0021 0.0027 0.0041 0.0047 0.0046 0.0045 0.0

16、032 0.0024 0.0022 0.0020 0.0019 0.0018 0.0019 0.0018 0.0020 0.0021 0.0021 0.0021 0.0017 0.0016 0.0016 0.0014 0.0013 0.0012 0.0012 0.0011 0.0012 0.0012 0.0012 0.0010精选优质文档-倾情为你奉上专心-专注-专业 0.0010 0.0010 0.0011 0.0011 0.0011 0.0012 0.0011 0.0011 0.0011 0.0012 0.0012 0.0012 0.0013 0.0014 0.0014 0.0014 0.0015 0.0015 0.0016 0.0016 0.0016 0.0017 0.0017 0.0017 0.0018 0.0017 0.0018 0.0017 0.0017 0.0018 0.0019 0.0019 0.0018 0.0019 0.0019 0.0021 0.0022 0.0023 0.0024 0.0024 0.0022 0.0022 0.0022 0.0022精选优质文档-