matlab分析自信息和信息熵,实验一-信息熵与图像熵计算-正确

《实验一-信息熵与图像熵计算-正确》由会员分享，可在线阅读，更多相关《实验一-信息熵与图像熵计算-正确(33页珍藏版)》请在人人文库网上搜索。

1、实验一 信息熵与图像熵计算(2 学时) 一、实验目的1.复习MATLAB的基本命令，熟悉MATLAB下的基本函数；2.复习信息熵基本定义,能够自学图像熵定义和基本概念。二、实验内容1.能够写出MATLAB源代码，求信源的信息熵；2.根据图像熵基本知识，综合设计出MATLAB程序，求出给定图像的图像熵。三、实验仪器、设备1.计算机系统最低配置256M内存、P4 CPU；2.MATLAB编程软件。四 实验流程图五 实验数据及结果分析四、实验原理1.MATLAB中数据类型、矩阵运算、图像文件输入与输出知识复习。2.利用信息论中信息熵概念，求出任意一个离散信源的熵(平均自信息量)。自信息是一个随机变量。

2、,它是指某一信源发出某一消息所含有的信息量。所发出的消息不同，它们所含有的信息量也就不同。任何一个消息的自信息量都代表不了信源所包含的平均自信息量。不能作为整个信源的信息测度，因此定义自信息量的数学期望为信源的平均自信息量：1( ) 1 ( ) log ( ) log ( ) i n i i p a i H E p a p a = = = - X 信息熵的意义：信源的信息熵H是从整个信源的统计特性来考虑的。它是从平均意义上来表征信源的总体特性的。对于某特定的信源，其信息熵只有一个。不同的信源因统计特性不同，其熵也不同。3.学习图像熵基本概念，能够求出图像一维熵和二维熵。图像熵是一种特征的统计形。

3、式，它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量，令Pi表示图像中灰度值为i的像素所占的比例，则定义灰度图像的一元灰度熵为：2550 log i i i p p = = H 图像的一维熵可以表示图像灰度分布的聚集特征，却不能反映图像灰度分布的空间特征，为了表征这种空间特征，可以在一维熵的基础上引入能够反映灰度分布空间特征的特征量来组成图像的二维熵。选择图像的邻域灰度均值作为灰度2 分布的空间特征量，与图像的像素灰度组成特征二元组，记为(i,j)，其中i表示像素的灰度值(01error(输入概率不符合概率分布)end6y=fliplr(sort(p);D。

4、=zeros(n,4);D(:,1)=y;for i=2:nD(1,2)=0;D(i,2)=D(i-1,1)+D(i-1,2);endfor i=1:nD(i,3)=-log2(D(i,1);D(i,4)=ceil(D(i,3);endDA=D(:,2);B=D(:,4);Code_length=0;for j=1:nCode_length=Code_length+p(j)*D(j,4);endH=0;for j=1:nH=H+p(j)*log2(1/p(j);endfor j=1:nfprintf(输入信源符号概率为%f的码字为:,p(1,j);C=deczbin(A(j),B(j);dis。

5、p(C)endEfficiency=H/(Code_length)fprintf(平均码长:n);disp(Code_length)fprintf(n 香农编码效率:n);disp(Efficiency)A：累加概率； B：码子长度。 ：码子长度。function C=deczbin(A,B)C=zeros(1,B); temp=A;for i=1:Btemp=temp*2;if temp1temp=temp-1;C(1,i)=1;elseC(1,i)=0;endend7实验三 费诺编码(2 学时)一、实验目的掌握费诺编码方法的基本步骤及优缺点。二、实验内容对于给定的信源的概率分布，按照费诺编。

6、码的方法进行计算机实现。三、实验仪器、设备1.计算机系统最低配置256M 内存、P4 CPU；2.MATLAB 编程软件。四、实验原理1.费诺编码原理：费诺编码就是通过使编码中各个句号出现的概率大致相等，实现概率均匀化，从而减少冗余度，提高编码效率。凡是能载荷一定的信息量，且码字的平均长度最短，可分离的变长码的码字集合称为最佳变长码。在编N 进制码时首先将信源消息符号按其出现的额概率一次又小到大排列开来，并将排列好的心愿符号按概率值分N 大组，使N 组的概率之和近似相同，并对各组赋予一个N 进制码元0、1.N-1。之后再针对每一个大组内的心愿符号做如上处理，即再分为概率相同的N 组，赋予N 进。

7、制码元。如此重复，直到每组只剩下一个心愿符号为止。此时每个信源符号所对应的码字即为费诺码。针对同一个心愿，费诺码比香农码平均码长小，消息出书速率大，编码效率高。费诺编码是一种信源编码，它编码后的费诺码要比香农码的平均码长小，消息传输速率大，编码效率高。但它属于概率匹配编码它不是最佳的编码方法。2.费诺编码算法：(1)将信源消息符号按其出现的概率大小依次排列：1 2 ( ) ( ) . ( ) n P X P X P X(2)将依次排列的信源符号按概率值分为两大组，使两个组的概率之和近似相同，并对各组赋予一个二进制码元“0”和“1”；(3)将每一大组的信源符号再分成两组，使划分后的两个组的概率之。

8、和近似相同，并对各组赋予一个二进制符号“0”和“1”；(4)如此重复，直至每个组只剩下一个信源符号为止；(5)信源符号所对应的码子即为费诺码。五、实验步骤1.根据实验原理，设计费诺编码程序；2.输入一组信源消息符号概率，可以求费诺编码，平均码长和编码效率。8六、实验报告要求1. 按照本节内容后实验报告形式书写；2. 实验总结和心得要详细，可以根据自己情况写出建议。七、实验注意事项1.MATLAB 1.MATLAB1.MATLAB1.MATLAB1.MATLAB语言课下多复习，尽量采用模块化编程方法通过函数调形式 语言课下多复习，尽量采用模块化编程方法通过函数调形式 语言课下多复习，尽量采用模块。

9、化编程方法通过函数调形式 语言课下多复习，尽量采用模块化编程方法通过函数调形式 运行程序；2. 仔细理解、体会费诺编码。八、思考题举例说明 费诺编码 在现实中际应用， 列举一个例子并简要说明？附录 1：实验报告样式：实 验 报 告班级： 姓名： 学号： 组别： 同组人：课程名称： 实验室： 实验时间：(使用实验报告纸的，以上内容可按照实验报告纸格式填写)实验三 费诺编码一、实验目的：二、实验内容与原理：三、实验器材(设备、元器件、软件工具、平台)：四、实验步骤：五、程序流程图：六、实验数据及结果分析：七、实验结论：八、思考题：九、编程、调试过程中遇到的问题及解决方法：十、其他：实验总结、心得体。

10、会及对本实验方法、手段及过程的改进建议等。附录2：费诺编程程序：clc;clear all;N=input(输入信源符号的个数:); s=0;l=0; H=0;for i=1:Nfprintf(第%d个,i);p(i)=input(p=);if (p(i)=1)error(不符合分布概率);ends=s+p(i);9H=H+(- p(i)*log2(p(i);endif (s=1.000001)error(不符合分布概率)endfor i=1:N-1for j=i+1:Nif p(i)1error(输入概率不符合概率分布)enda=zeros(n-1,n); n=length(p);for i。

11、=1:n-1q,l=sort(q); a(i,:)=l(1:n-i+1),zeros(1,i-1); q=q(1)+q(2),q(3:n),1;endfor i=1:n-1c(i,1:n*n)=blanks(n*n);endc(n-1,n)=1; c(n-1,2*n)=0;for i=2:n-1c(n-i,1:n-1)=c(n-i+1,n*(find(a(n-i+1,:)=1)-(n-2):n*(find(a(n-i+1,:)=1);c(n-i,n)=1;c( n-i,n+1:2*n-1)=c(n-i,1:n-1);c(n-i,2*n)=0;for j=1:i-1 c(n-i,(j+1)*n+。

12、1:(j+2)*n)=c(n-i+1,n*(find(a(n-i+1,:)=j+1)-1)+1:n*find(a(n-i+1,:)=j+1);endendfor i=1:nh(i,1:n)=c(1,n*(find(a(1,:)=i)-1)+1:find(a(1,:)=i)*n); ll(i)=length(find(abs(h(i,:)=32);endCode_length=0;for i=1:nCode_length=Code_length+p(1,i)*ll(i);EndEfficiency=H/(Code_length);fprintf(n 哈夫曼编码:n);disp(h)fprintf。

13、(n 平均码长:n);disp(Code_length)fprintf(n 哈夫曼编码效率：n);disp(Efficiency)14实验五 算术编码(2学时)一、实验目的1.掌握算数编码原理；2.学习算术编码基本流程 ,学会调试算术编码程序 ；3.根据给出资料，自学适应 0阶算术编码 方法。二、实验内容1. 利用 MATLAB MATLABMATLABMATLABMATLAB编写程序实现算数码； 编写程序实现算数码；2.对文件符号进行概率统计，生成编码表；3.对文件进行压缩编码；3.(选做)对文件进行解压缩，比较原始数据和后的之间是否有损 (选做)对文件进行解压缩，比较原始数据和后的之间是否。

14、有损 (选做)对文件进行解压缩，比较原始数据和后的之间是否有损 (选做)对文件进行解压缩，比较原始数据和后的之间是否有损 耗。三实验仪器、设备1.计算机系统最低配置 256M 内存、 P4 CPUP4 CPU P4 CPUP4 CPU；2.MATLAB MATLABMATLABMATLABMATLAB编程软件。四、实验原理算术编码的编码对象是一则消息或一个字符序列，其编码思路是将该消息或字符序列表示成0和1之间的一个间隔(Interval)上的一个浮点小数。在进行算术编码之前，需要对字符序列中每个字符的出现概率进行统计，根据各字符出现概率的大小，将每个字符映射到0,1区间上的某个子区间中。然后。

15、，再利用递归算法，将整个字符序列映射到0,1区间上的某个Interval中。在进行编码时，只需从该Interval中任选一个小数，将其转化为二进制数。符号序列越长，编码表示它的Interval的间隔就越小，表示这一间隔所需的二进制位数就越多，编码输出的码字就越长。五、实验步骤项目文件建立步骤同实验二，下面列出对给定序的算术编码：1.编码器在开始时将“当前间隔”L ，H) 设置为 设置为 0 ，1) ；2.对每一事件，编码器按步骤( a)和( b)进行处理 ；(a)编码器将“当前间隔”分为子，每一个事件；(b)一个子间隔的大小与下将出现事件概率成比例，编码器选择 子间 隔对应于下一个确切发生的事。

16、件相，并使它成为新“当前子间 隔对应于下一个确切发生的事件相，并使它成为新“当前子间 隔对应于下一个确切发生的事件相，并使它成为新“当前隔”。 隔”。3.最后输出的“当前间隔”下边界就是该给定事件序列算术编码。六、实验报告要求1.按照本节内容后实验报告形式书写；152.算术编码学习心得，特别是根据自适应模型 算术编码学习心得，特别是根据自适应模型 0阶编码，调整概率分布方法。 阶编码，调整概率分布方法。 根据自己实验情况，写出的做中遇到具体问题对本提建 根据自己实验情况，写出的做中遇到具体问题对本提建 根据自己实验情况，写出的做中遇到具体问题对本提建 议。七、实验注意事项1. 编码概论累加分布。

17、；2. 编码区间上限和下迭代算法；3. 自适应模型 0阶的编码原理。八、思考题算术编码的优缺点？附录 1：实验报告样式：实 验 报 告班级： 姓名： 学号： 组别： 同组人：课程名称： 实验室： 实验时间：(使用实验报告纸的，以上内容可按照实验报告纸格式填写)实验五 算术编码一、实验目的：二、实验内容与原理：三、实验器材(设备、元器件、软件工具、平台)：四、实验步骤：五、程序流程图:六、实验数据及结果分析：七、实验结论：八、思考题：九、编程、调试过程中遇到的问题及解决方法：十、其他：实验总结、心得体会及对本实验方法、手段及过程的改进建议等。附录二：算术编码程序disp(%start%)disp。

18、(程序限定字符为：a b c d e);str=input(请输入编码的字符串：);j,k=size(str);l=0;r=1;d=1;p=0.2 0.3 0.1 0.15 0.25;pa=0.2;pb=0.3;16pc=0.1;pd=0.15;pe=0.25;n=length(str);disp(a b c d e)disp(num2str(p)for i=1:kif i=1switch str(i)case am=1;a1=0;a2=pa;case bm=2;a1=pa;a2=pa+pb;case cm=3;a1=pa+pb;a2=pa+pb+pc;case dm=4;a1=pa+pb+p。

19、c;a2=pa+pb+pc+pd;case em=5;a1=pa+pb+pc+pd;a2=pa+pb+pc+pd+pe;endl=a2-a1;endif (i=2)&(i=1&i=1|A0.5-eps)e(i,j)=1;elsee(i,j)=0;endendendcc=mod(y+e,2);sc=cc(:,1:2);disp(差错图样);edisp(估计值);ccdisp(译码序列);sc__clear all;close all;clc;13n=input(:);p=zeros(1,n);for i=1:np(1,i)=input(:);endq=p;if sum(p)1error()end。

20、a=zeros(n-1,n); n=length(p);for i=1:n-1q,l=sort(q); a(i,:)=l(1:n-i+1),zeros(1,i-1); q=q(1)+q(2),q(3:n),1;endfor i=1:n-1c(i,1:n*n)=blanks(n*n);endc(n-1,n)=1; c(n-1,2*n)=0;for i=2:n-1c(n-i,1:n-1)=c(n-i+1,n*(find(a(n-i+1,:)=1)-(n-2):n*(find(a(n-i+1,:)=1);c(n-i,n)=1;c( n-i,n+1:2*n-1)=c(n-i,1:n-1);c(n-i,。

21、2*n)=0;for j=1:i-1 c(n-i,(j+1)*n+1:(j+2)*n)=c(n-i+1,n*(find(a(n-i+1,:)=j+1)-1)+1:n*find(a(n-i+1,:)=j+1);endendfor i=1:nh(i,1:n)=c(1,n*(find(a(1,:)=i)-1)+1:find(a(1,:)=i)*n); ll(i)=length(find(abs(h(i,:)=32);endCode_length=0;for i=1:nCode_length=Code_length+p(1,i)*ll(i);endEfficiency=h/(Code_length);。

22、fprintf(n :n);disp(h)fprintf(n :n);disp(Code_length)fprintf(n n);disp(Efficiency)close all;clc;G=input(G,:G=1 0 1 1 1;0 1 1 0 1n G=);G;k,n=size(G);r=n-k;m=input(m,m=0 0 0 1 1 0 1 1n m=);l=length(m);if(mod(l,k)disp();elsege=l/k;temp1=;for i=1:getemp1(i,:)=m(k*(i-1)+1:i*k);endm=temp1;c=mod(m*G,2);A=G(。

23、:,k+1:n);H=A,eye(r);disp();Hdisp();cenddisp();pausey=input(y,:y=0 0 0 0 0 0 1 1 0 1 1 0 1 1 1 1 0 0 1 0n y=);temp2=;for i=1:getemp2(i,:)=y(1,n*(i-1)+1:i*n);endy=temp2s=mod(y*H,2);e=s*pinv(H);22for i=1:gefor j=1:nif(e(i,j)0.5-eps)e(i,j)=1;elsee(i,j)=0;endendendcc=mod(y+e,2);sc=cc(:,1:2);disp();edisp();ccdisp();sc三四 哈夫曼编码五 算术编码六 线性分组码的信道编码和译码。