我所知道的算法之哈夫曼编码

上一篇文章中提到数据结构:哈夫曼树,今天接着学习由哈夫曼提出编码方式,一种程序算法。简称:哈夫曼编码

在线转码工具: https://www.mokuge.com/tool/a...

一、什么是哈夫曼编码?

与哈夫曼树一样,会不会有小伙伴对哈夫曼编码很陌生,有疑惑

问题疑惑

1.哈夫曼编码是做什么的?有什么用?
2.为什么要使用哈夫曼编码?使用别的编码行不行?

哈夫曼编码是做什么的?有什么用?

哈夫曼(Huffman)编码算法

它是基于二叉树构建编码压缩结构的,它是数据压缩中经典的一种算法:根据文本字符出现的频率,重新对字符进行编码

那么就会有小伙伴说:什么是数据压缩?什么是字符编码?

字符编码压缩介绍

在我们的世界里,我们可以看到漂亮的图像、好听的声音、震撼的视频等等这些精彩内容。但是对于计算机说,它的世界里只有二进制的 0 和 1

我所知道的算法之哈夫曼编码_第1张图片

因此在数字电子电路中,逻辑门的实现直接应用了二进制,因此现代的计算机和依赖计算机的设备里都用到二进制。

那么在二进位电脑系统中,存储的单位有:bit、kb、mb、gb

bit 电脑记忆体中最小的单位,每一bit 只代表0 或 1 的数位讯号

我所知道的算法之哈夫曼编码_第2张图片

Byte由八个 bits 所组成,可代表:字元(A~Z)、数字(0~9)、或符号(,.?!%&+-*/)

我所知道的算法之哈夫曼编码_第3张图片

当记忆体容量过大时,位元组(byte)这个单位就不够用,因此就有千位元组的单位KB出现,以下乃个记忆体计算单位之间的相关性:

  • 1 Byte = 8 Bits
  • 1 KB = 1024 Bytes
  • 1 MB = 1024 KB
  • 1 GB = 1024 MB

我们现在在计算机上看到的一切的图像、声音、视频等内容,都是由二进制的方式进行存储

我所知道的算法之哈夫曼编码_第4张图片

简单来讲,我们把信息转化为二进制的过程可以称之为编码

编码方式从长度上来分大致可以分为两个大类:

  • 定长编码表明:段与段之间长度相同,没说明是多长。
  • 变长编码表明:段与段之间的长度不相同,不定义具体有多长。

请注意!这里并没有标明是多长!这会导致无法区分编码信息与文件内容的分离!造成乱码!

自然语言的分隔问题
民可使由之不可使知之 ——_出自《论语 第八章 泰伯篇》_

这么一串十个字要如何去分隔并解释呢?

断法解释一:

民可使由之,不可使知之。

解释:你可以去驱使你的民众,但不可让他们知道为什么(不要去教他们知识)

断法解释二:

民可,使由之;不可,使知之。

解释:民众可以做的,放手让他们去做;不会做的,教会他们如何去做(又或:不可以去做的,让他们明白为何不可以)

显然,以上的文字是以某种定长或变长的方式组合在一起的,但是关于它们如何分隔的信息则被丢弃了,于是在解释时就存在产生歧义可能了。

举个栗子,假如我们对 「pig」 进行自定义编码,使用定长编码,为了方便,采用了十进制,原理与二进制是一样的。

我所知道的算法之哈夫曼编码_第5张图片

假设我们现在有文件,内容是:00080008

假如定长 2 位是唯一的编码方案,用它去解码就会得到:「pipi」
假如定长 4 位是唯一的编码方案,用它去解码就会得到:「ii」

我所知道的算法之哈夫曼编码_第6张图片

如果文件的内容并没有暗示它使用了何种编码!就会出现解释时存在产生歧义

这就好比孔夫子写下“民可使由之不可使知之”时

并没有暗示它是5|5分隔民可使由之|不可使知之

还是暗示它是2|3|2|3分隔民可|使由之|不可|使知之)。

其实当我们有字节这一基本单位后,我们就可以说得更具体:如定长一字节或者定长二字节

比如说ASCII码它是最早也是最简单的一种字符编码方案:使用定长一字节来表示一个字符

示例编码认识差异

其实现在我们的计算机的世界里编码总已经有很多种格式

比如常见的: ASCII 、 Unicode 、 GBK 、 GB2312 、 GB18030 、 UTF-8 、 UTF-16 等等。

我所知道的算法之哈夫曼编码_第7张图片

ASCII编码介绍

我们都知道在计算机的世界里只有二进制0和1,通过不同的排列组合,可以使用 0 和 1 就可以表示世界上所有的东西

是不是有我们中国"太极"的感觉。

——“太极生两仪,两仪生四象,四象生八卦

而在计算机中:一字节 = 八位二进制数(二进制有0和1两种状态)
因此一字节可以组合出二百五十六种状态。

如果这二百五十六种状态每一个都对应一个符号,就能通过一字节的数据表示二百五十六个字符

美国人于是就制定了一套编码(其实就是个字典),描述英语中的字符和这八位二进制数的对应关系,这被称为 ASCII 码。

我所知道的算法之哈夫曼编码_第8张图片

随着时代的发展,不仅美国人要对他们的英文进行编码,我们中国人也要对汉字进行编码。

而早期的 ASCII 码的方案只有一个字节,对我们汉字文化而言是远远不够的

编码的发展

这点可怜的空间拿到中国来,它能编码的汉字量也就小学一年级的水平。

这也就导致了不同的需求推动了发展,各种编码方案都出来了,彼此之间的转换也带来了诸多的问题。采用某种统一的标准就势在必行了,于是乎天上一声霹雳,Unicode登场!

Unicode早期是作为定长二字节方案出来的。它的理论编码空间一下达到了64k

不过对于可以只需要使用到一个字节的ASCII 码就可以表示的美国人来讲,让他们使用 Unicode ,多少还是不是很愿意的。

比如 「he」 两个字符,用 ASCII 只需要保存成 6865 ( 16 进制),现在则成了 00680065 ,前面多的那两个 0 (用作站位)。

基本上可以说是毫无意义,用 Unicode 编码的文本,原来可能只有 1KB 大小,现在要变成 2KB ,体积成倍的往上涨。

可是更糟糕的事还在后头,我们中文可是字符集里面的大头。

1.“ 茴字有四种写法”——上大人孔乙己
2.据说有些新近整理的汉语字典收录的汉字数量已经高达10万级别!

如果还是定长的方案,眼瞅着就要奔着四字节而去了,容量与效率的矛盾在这时候开始激化。

容量与效率的矛盾
  • 所谓容量,这里指用几个字节表示一个字符,显然用的字节越多,编码空间越大,能表示更多不同的字符,也即容量越大。
  • 所谓效率,当表示一个字符用字节越多,所占用的存储空间也就越大,换句话说,存储(乃至检索)的效率降低了。

我所知道的算法之哈夫曼编码_第9张图片

如果说效率是,那么容量就是
(_我没还没忘记自小学语文老师就开始教导的,写作文要遥相呼应_)

莫尔斯电码图

看如图所示你就会发现,字母e只用了一个点(dot)来编码

我所知道的算法之哈夫曼编码_第10张图片

其它字母可能觉得不公平,为啥我们就要录入那么多个点和划(dash)才行呢?这里面其实是有统计规律支撑的。e出现的概率是最大的

z你能想到什么?
zoo大概很多人能想到,厉害一点可能还能想到zebra(斑马),Zuckerberg(扎克伯格),别翻字典!你还能想到更多不?
e你能想到什么?
含有的 e的单词则多了去了。zebra中不就有个e吗,Zuckerberg中还两个e呢

所以我们希望频率越高的词,编码越短,这样最终才能最大化压缩存储文本数据的空间

为什么要使用哈夫曼编码?使用别的编码行不行?

上面提到常见的信息处理方式:定长编码与变长编码

假设当前有一句话:i like like like java do you like a java(共40个字符,包括空格)

那么按照定长编码处理,那么会变成什么呢?

我所知道的算法之哈夫曼编码_第11张图片

我们发现最后存在计算机中(二进制)长度是:三百五十九

那么按照变长编码处理,那么会变成什么呢?

我所知道的算法之哈夫曼编码_第12张图片

假设我们将这串10010110100...发给别人,但是没有说明解码的方式,这时就会出现解释时存在产生歧义

比如说可能翻译成:"a a a aa a ",所以我们需要说明字符编码不能是其他字符编码的前缀,即不能匹配重复的编码

那么按照哈夫曼处理,那么会变成什么呢?

我所知道的算法之哈夫曼编码_第13张图片

相比定长编码二进制的长度:三百五十九,哈夫曼二进制长度为:一百三十三

那么相比定长编码二进制的长度优化了多少呢?:(359-133)/359=62.9%

我们再将哈夫曼二进制转码对应的byte字符

我所知道的算法之哈夫曼编码_第14张图片

那么相比原字符长度优化了多少呢?:(40-17)/40 = 57.5%

一下将原字符40位变成17位, 这样的情况下,是不是我们想要的

二、解析哈夫曼编码执行思路与过程

上面我们采用"i like like like java do you like a java",做例子分析,那么我们现在分析分析哈夫曼编码思路

  • 将字符串里的字符进行统计个数并转为Byte[]数组
  • 根据字符的出现次数构建一颗哈夫曼树、次数为权值
  • 根据哈夫曼树进行自定义哈夫曼编码实现
  • 将原字符的所有哈夫曼编码构建成编码串
  • 根据编码串进行补码->反码->原码构建新字符

三、统计字符出现次数并构建哈弗曼树

图解思路分析

  • 获取传输的字符串:"i like like like java do you like a java"
  • 获取各个字符对应的个数:d:1 y:1 u:1 j:2 v:2 0:2 l:4 k:4 e:4 i:5 a:5 (空格):9
  • 按照上面的字符出现的次数构建成一颗哈夫曼树,出现的个数作为权值

构建哈夫曼树的步骤思路

1.将数列进行从小到大排序
2.新数列的每个数看成最简单根节点的二叉树
3.取出权值最小的两颗二叉树组成新的二叉树,为两最小的树之和
4.将新二叉树以跟节点的权重值再次从小到大排序,不断重复步骤

我所知道的算法之哈夫曼编码_第15张图片

构建哈夫曼树的代码思路

  • Node{data:存放数据,weight:权重,left和right}
  • 得到"i like like like java do you like a java"对应byte[]数组
  • 编写方法,将准备构建赫夫曼树的Node节点放到List:Node[data=97, weight= 5],Node[data=32,weight = .....
  • 通过List创建对应的哈夫曼树

体现获取各个字符对应的个数:d:1 y:1 u:1 j:2 v:2 0:2 l:4 k:4 e:4 i:5 a:5 (空格):9

比如说字符:a 应该是Node[data='a', weight= 5],data为什么会是97而不是a?

因为底层:字母等于ASCII数字

构建哈夫曼树的代码实现

那么第一步:创建节点Node{data:存放数据,weight:权重,left和right}

class Nodedata implements Comparable{

    Byte data; //存放数据(字符)本身,比如'a' =>97 '' =>32
    int weight; //权值,表示字符出现的次数
    Nodedata left;
    Nodedata right;
    public Nodedata(Byte data, int weight) {
        this.data = data;
        this.weight = weight;
    }
    @Override
    public int compareTo(Nodedata o) {
        return this.weight - o.weight;
    }
    @Override
    public String toString() {
        return "Nodedata[" +"data=" + data + ", weight=" + weight +']';
    }
}

第二步:得到"i like like like java do you like a java"对应byte[]数组

public static void main(String[] args) {
     
     //得到`"i like like like java do you like a java"`对应byte[]数组
     String content = "i like like like java do you like a java";
     byte[] contentBytes = content.getBytes();
     System.out.println(contentBytes.length);
}

第三步:编写方法,将准备构建赫夫曼树的Node节点放到List

private static List getNodes(byte[] bytes){
    //1.创建一个ArrayList
    List nodeslist = new ArrayList();
    //2.遍历bytes,统计每一个byte出现的次数->map[key,value]
    Map map = new HashMap<>();
    for(byte b :bytes){
        Integer items = map.get(b);
        if(items == null){
            map.put(b,1);
        }else{
            map.put(b, items + 1);
        }
    }
    //3.把每个键值对转为Node 对象,并放入nodeslist集合里
    for(Map.Entry temp :map.entrySet()){
        nodeslist.add(new Nodedata(temp.getKey(),temp.getValue()));
    }
    return nodeslist;
}

第四步:通过List创建对应的哈夫曼树

private static Nodedata createHaffman(List nodedataList){
    while(nodedataList.size() >1){
        //排序从小到大
         Collections.sort(nodedataList);
         /**
         *  操作思路 
         *  1.取出两个权值最小的节点二叉树 
         *  2.根据两个权值最小的二叉树构建成一个新的二叉树
         *  3.删除原先两个权值最小的节点二叉树
         *  4.将新的二叉树放入队列,并构建新的队列
         *  5.新的队列进行从小到大排序
         */
         //取出第一个权值最小的二叉树
         Nodedata leftNode = nodedataList.get(0);
         //取出第二个权值最小的二叉树
         Nodedata rightNode = nodedataList.get(1);
         //根据两个权值最小的二叉树构建成一个新的二叉树 同时构建连接
         Nodedata parentNode  = new Nodedata(null,leftNode.weight + rightNode.weight);
         parentNode.left = leftNode;
         parentNode.right = rightNode;
         //删除原先两个权值最小的节点二叉树
         nodedataList.remove(leftNode);
         nodedataList.remove(rightNode);
         //将新的二叉树放入队列,并构建新的队列
         nodedataList.add(parentNode);
     }
    return nodedataList.get(0);
}

测试检查是否满足代码思路

检查是否Byte[]长度:40

public static void main(String[] args) {
     
     //得到`"i like like like java do you like a java"`对应byte[]数组
     String content = "i like like like java do you like a java";
     byte[] contentBytes = content.getBytes();
     System.out.println("byte[]数组长度为:"+contentBytes.length);
}

运行结果如下:
byte[]数组长度为:40

检查字符个数:d:1 y:1 u:1 j:2 v:2 0:2 l:4 k:4 e:4 i:5 a:5 (空格):9

public static void main(String[] args) {
     
     //将准备构建哈弗曼树的Node节点放到List:Node[data=97, weight= 5],Node[data=32,weight = .....
    List datalist = getNodes(contentBytes);
    for(Nodedata data : datalist){
        System.out.println(data);
    }
}
运行结果如下:
Nodedata[data=32, weight=9]
Nodedata[data=97, weight=5]
Nodedata[data=100, weight=1]
Nodedata[data=101, weight=4]
Nodedata[data=117, weight=1]
Nodedata[data=118, weight=2]
Nodedata[data=105, weight=5]
Nodedata[data=121, weight=1]
Nodedata[data=106, weight=2]
Nodedata[data=107, weight=4]
Nodedata[data=108, weight=4]
Nodedata[data=111, weight=2]

我所知道的算法之哈夫曼编码_第16张图片

Nodedata 节点添加前序遍历,添加哈弗曼树方法

class Nodedata implements Comparable{

     //省略实体类代码
     //前序遍历方法
     public void preOrder(){
        System.out.println(this);
        if(this.left != null){
           this.left.preOrder();
        }
        if(this.right != null){
           this.right.preOrder();
        }
    }
}
private static void preOrder(Nodedata root){
    if(root != null){
        root.preOrder();
    }else{
        System.out.println("哈弗曼树为空!");
    }
}

检查前序遍历哈弗曼树,查看是否图一致:40->17->8->4->4->2->2->9...

我所知道的算法之哈夫曼编码_第17张图片

public static void main(String[] args) {
     
     //获取哈弗曼树的根节点
     Nodedata root = createHaffman(datalist);
     //遍历哈弗曼树
     preOrder(root);
}
运行结果如下:
Nodedata[data=null, weight=40]
Nodedata[data=null, weight=17]
Nodedata[data=null, weight=8]
Nodedata[data=108, weight=4]
Nodedata[data=null, weight=4]
Nodedata[data=106, weight=2]
Nodedata[data=111, weight=2]
Nodedata[data=32, weight=9]
Nodedata[data=null, weight=23]
Nodedata[data=null, weight=10]
Nodedata[data=97, weight=5]
Nodedata[data=105, weight=5]
Nodedata[data=null, weight=13]
Nodedata[data=null, weight=5]
Nodedata[data=null, weight=2]
Nodedata[data=100, weight=1]
Nodedata[data=117, weight=1]
Nodedata[data=null, weight=3]
Nodedata[data=121, weight=1]
Nodedata[data=118, weight=2]
Nodedata[data=null, weight=8]
Nodedata[data=101, weight=4]
Nodedata[data=107, weight=4]

那么我们前面分析了如何将字符转为哈弗曼树的思路与代码

下面看看如何将根据哈夫曼树进行构成自定义哈夫曼编码

四、根据哈夫曼树自定义哈夫曼编码

  • 根据哈夫曼树我们来自定义编码规则:向左为0、向右为1
  • 这样根据上面如图所示,定义的字符编码如下:[o: 0011 u: 11001 d: 11000 y: 11010 i: 101 a: 100 k: 1111 e: 1110 j: 0010 V: 11011 I: 000 (空格):01]

我所知道的算法之哈夫曼编码_第18张图片

有没有发现哈弗曼树的节点编码它是前缀编码:不是是其他字符编码的前缀,即匹配不到重复的编码

根据哈夫曼树自定义哈夫曼编码代码思路分析

  • 使用StringBuilder记录所经过的路径:'a'的路径是:1->1->0
  • 使用Key:Value 键值的方式存放对应的字符:路径;比如:(a:1000)、(j:0010)、(o:0011)
  • 字符特点:data !=null (属于叶子节点)
  • 假设查询字符v的路径,发现左递归不符合后还需要进行右递归判断

根据哈夫曼树自定义哈夫曼编码代码实现

//将哈夫曼编码以Key:Vale形式存放
//比如说32->01 97->100 100->11000 等等[形式]
static Map huffmanCodes = new HashMap();
//2.在生成赫夫曼编码表示,需要去拼接路径,定义一个StringBuilder 存储某个叶子结点的路径
static StringBuilder stringBuilder = new StringBuilder();

/**
 * 1.功能:将传入的node结点的所有叶子结点的赫夫曼编码得到,并放入到huffmanCodes集合 * @param node 传入节点
 * @param code 路径:左节点是0 右节点是1
 * @param stringBuilder 用于拼接路径
 */
 private static void getCodes(Nodedata node,String code,StringBuilder stringBuilder){
    StringBuilder str = new StringBuilder(stringBuilder);
    //将code加入到str 总
    str.append(code);
    if(node!=null){
        //字符特点:`data !=null `(属于叶子节点)
        if(node.data ==null){//(属于非叶子节点)
         //向左递归
         getCodes(node.left,"0",str);
         //向右递归
         getCodes(node.right,"1",str);
    }else{
         //`使用Key:Value 键值`的方式存放对应的`字符:路径;`比如:`(a:110)、(j:0000)、(o:1000)`
         huffmanCodes.put(node.data,str.toString());
     }
  }    
}

我们优化一下代码,实现传入根节点就可以返回哈夫曼编码

private static Map getCodes(Nodedata node){
     //根节点为空则不做处理
     if(node == null){
        return null;
     }
     //向左递归
     getCodes(node.left,"0",stringBuilder);
     //向右递归
     getCodes(node.right,"1",stringBuilder);
     return huffmanCodes;
}

我们进行运行测试看看,是否欲思路一致生成编码

public static void main(String[] args) {

    //将哈夫曼树生成哈夫曼编码
    //getCodes(root,"",stringBuilder);
    
    //执行优化代码
    getCodes(root);
}

运行结果如下:
生成的哈夫曼编码表:{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}

注意:不同的排序方式会生成不同的哈弗曼树,所造成的哈夫曼编码也不一样,但WPL是一致

五、将原字符的所有哈夫曼编码构建成编码串

我们将"i like like like java do you like a java"字符串,即生成对应的哈夫曼编码数据(如下)

我所知道的算法之哈夫曼编码_第19张图片

将原字符串转为编码串思路分析

  • 将字符串"i like like like java do you like a java"转为对应的Byte[]数组
  • 使用StringBuilder追加存储byte字符的对应字符路径

将原字符串转为编码串思路分析代码实现

private static void zip(byte[] bytes, Map huffmanCodes) {
     //1.利用huffmanCodes将bytes 转成赫夫曼编码对应的字符串
     StringBuilder stringBuilder = new StringBuilder();
     //遍历bytes数组
     for(byte b: bytes) {
        stringBuilder.append(huffmanCodes.get(b));
     }
     System.out.printf("stringBuilder=" + stringBuilder.toString());
     System.out.print("\n stringBuilder的长度=" + stringBuilder.length());
}

代码测试

public static void main(String[] args) {

    //得到`"i like like like java do you like a java"`对应byte[]数组
    String content = "i like like like java do you like a java";
    byte[] contentBytes = content.getBytes();
    System.out.println("byte[]数组长度为:"+contentBytes.length);
    //将准备构建哈弗曼树的Node节点放到List:Node[data=97, weight= 5],Node[data=32,weight = .....
    List datalist = getNodes(contentBytes);
    //获取哈弗曼树的根节点
    Nodedata root = createHaffman(datalist);
    //将哈夫曼树生成哈夫曼编码Key:Value
    getCodes(root);
    //将Byte[]数组转为自定义的哈夫曼编码字符路径
    zip(contentBytes,huffmanCodes);
}

运行结果如下:
byte[]数组长度为:40
stringBuilder=1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100
stringBuilder的长度=133

我们将"i like like like java do you like a java"

转为编码串相比之前定长编码优化了多少呢?:(359-133)/359=62.9%

我所知道的算法之哈夫曼编码_第20张图片

六、将编码串进行补码->反码->原码构建新字符

那么如何将长度一百三十三的二进制串转为新的字符呢?

在讲编码串进行补码->反码->原码构建新字符前,先解释了解了解不同的进制

相同的数字有不同的样子

在计算机的世界中就分两种人:认识二进制和不认识二进制

上面我们介绍到我们看到的漂亮的图像、好听的声音、震撼的视频等等这些精彩内容。但是对于计算机说,它的世界里只有二进制的 0 和 1

我所知道的算法之哈夫曼编码_第21张图片

  • 所有数字在计算机底层都以二进制形式存在
  • 对于整数有不同表达方式:二进制、十进制、八进制、十六进制

我所知道的算法之哈夫曼编码_第22张图片

二进制与十进制的说明

我们使用Byte字符的二进制做演示,首先我们直观一点举例正数说明

image.png

以此类推....那么十进制转二进制该怎么做呢?来看看规律

我所知道的算法之哈夫曼编码_第23张图片

有没有发现?从右开始往左是2^0(二的零次方)、2^1(二的一次方)、2^2(二的平方)、2^3(二的三次方)

我所知道的算法之哈夫曼编码_第24张图片

根据前面知识点,你知道:01101110的十进制是多少么?

我所知道的算法之哈夫曼编码_第25张图片

那么我们说Byte表示 -128 ~127 ,那么0和1 是怎么表示正数和负数的呢?

我所知道的算法之哈夫曼编码_第26张图片

我们现在知道二进制的最高位:0 正数 1-负数 ,那么对于整数还要提提三个码:原码、反码、补码

我所知道的算法之哈夫曼编码_第27张图片

那么我们思考一下:在计算机中: -14 是什么样的呢?

接下来看看负数的解析图:十进制:14、二进制:00001110

我所知道的算法之哈夫曼编码_第28张图片

那么我们现在反推一下:10111011 转为十进制是多少呢?

  • 我们刚刚提到计算机底层都以补码方式存储
  • 我们刚刚观察知道最高位: 0 - 正数、1-负数
  • 而负数则是补码的形式,那么思路反推:补码->反码->原码

我所知道的算法之哈夫曼编码_第29张图片

接下来我相信大家都了解了什么是原码、反码、补码

上面我们将字符串"i like like like java do you like a java" 转为了自定义的哈弗曼编码串
我所知道的算法之哈夫曼编码_第30张图片

接下来我们创建Byte[] huffmanCodeBytes,处理哈夫曼编码串,以八位为一组对应一个Byte 放入huffmanCodeBytes中

我所知道的算法之哈夫曼编码_第31张图片

转为新字符代码的思路分析

  • 每八位对应一个Byte,所以133 % 8,使用循环每次 i + 8
  • 因为每次 i + 8 所以需要使用变量index 记录对应的第几位Byte
  • 使用(byte)Integer.parInt(string,radix)转码

转为新字符代码的代码实现

private static byte[] zip(byte[] bytes, Map huffmanCodes) {
    //1.利用huffmanCodes将bytes 转成赫夫曼编码对应的字符串
     StringBuilder stringBuilder = new StringBuilder();
     //遍历bytes数组
     for(byte b: bytes) {
        stringBuilder.append(huffmanCodes.get(b));
     }
     //2.1010100010111111...思路:补码->反码->原码->转成Byte
     int len;
     if(stringBuilder.length() %8 == 0){
         len = stringBuilder.length() /8;
     }else{
         len = stringBuilder.length() /8 + 1;
     }
     //3.创建存储压缩后的byte数组
     byte[] huffmanCodeBytes = new byte[len];
     int index = 0;//记录是第几个byte
     for (int i = 0; i < stringBuilder.length(); i += 8) { //因为是每8位对应一个byte,所以步长+8
         String strByte;
         if(i+8 > stringBuilder.length()) {//不够8位
            strByte = stringBuilder .substring(i);
         }else {
            strByte = stringBuilder .substring(i, i + 8);
         }
         //将strByte转成一个byte ,放入到huffmanCodeBytes
         huffmanCodeBytes[index] = (byte)Integer .parseInt(strByte, 2);
         index++;
    }
    return huffmanCodeBytes;
}
public static void main(String[] args) {
    //得到`"i like like like java do you like a java"`对应byte[]数组
    String content = "i like like like java do you like a java";
    byte[] contentBytes = content.getBytes();
    System.out.println("byte[]数组长度为:"+contentBytes.length);
    
    //将准备构建哈弗曼树的Node节点放到List:Node[data=97, weight= 5],Node[data=32,weight = .....
    List datalist = getNodes(contentBytes);
    
    //获取哈弗曼树的根节点
    Nodedata root = createHaffman(datalist);
    
    //将哈夫曼树生成哈夫曼编码
    getCodes(root);
    
    byte[] huffmanCodeBy =zip(contentBytes,huffmanCodes);
    System.out.println(Arrays.toString(huffmanCodeBy));
}

运行结果如下:
byte[]数组长度为:40
[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]

我所知道的算法之哈夫曼编码_第32张图片

那么相比原字符长度优化了多少呢?:(40-17)/40 = 57.5%

一下将原字符40位变成17位

七、封装直接返回新符号Byte[]方法

根据前面的分析,我们调用的方法比较多也比较臃肿,每次测试需要

  • 将字符串转为Byte数组,并统计个数
  • 根据字符出现次数作为权重,构建哈弗曼树
  • 根据哈弗曼树生成自定义哈弗曼编码
  • 将原字符的所有哈夫曼编码构建成编码串
  • 根据编码串进行补码->反码->原码构建新字符

现在呢,我们将封装这些方法方便我们调用,我们的目的是获取到新字符组

//使用一个方法将需要的方法疯转起来,方便调用
private static  byte[] haffmanZip(byte[] bytes){
    //将准备构建哈弗曼树的Node节点放到List:Node[data=97, weight= 5],Node[data=32,weight = .....
     List datalist = getNodes(bytes);
     //根据字符出现次数作为权重,构建哈弗曼树
     //获取哈弗曼树的根节点 
     Nodedata root = createHaffman(datalist);
     //根据哈夫曼树进行自定义哈夫曼编码实现
     Map huffmanCodes = getCodes(root);
     //将原字符的所有哈夫曼编码构建成编码串
     //根据编码串进行补码->反码->原码构建新字符
     byte[] huffmanCodeBy =zip(bytes,huffmanCodes);
     return huffmanCodeBy;
}
public static void main(String[] args) {

    String content = "i like like like java do you like a java";
    byte[] contentBytes = content.getBytes();
    System.out.println("byte[]数组长度为:"+contentBytes.length);
    byte[] huffmanCodeBy =haffmanZip(contentBytes);
    System.out.println(Arrays.toString(huffmanCodeBy));
    System.out.println("压缩后的byte[]数组长度为:"+huffmanCodeBy.length);
}

运行结果如下:
byte[]数组长度为:40
[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
压缩后的byte[]数组长度为:17

八、将新字符解码转为原字符串

我们已经将"i like like like java do you like a java"包括空格在内的四十个字符

压缩成[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]只有十七位的新字符。

那么假如我们将这串新字符发给对方

对方如何解码成"i like like like java do you like a java"呢?

我所知道的算法之哈夫曼编码_第33张图片

[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]是怎么来的?

  • 将长度为133的编码串 % 8 再进行补码->反码->原码

那么我们现在获取到新字符后需要使用逆向思维获取原补码

我们可以使用Integer.toBinaryString()方法将byte转成二进制

/**
 *将一个byte转成-个二进制的字符串 
 * @param b
 * @return
 */
private static String byteToBitString(byte b) {
    //使用变量保存b
     int temp = b;//将b转成int
     String str = Integer.toBinaryString(temp);
     return str;
}

我们使用 -1 进行测试这个方法看看

//测试一把byteToBitString方法
System.out.println(byteToBitString((byte)-1));

运行结果如下:
str=11111111111111111111111111111111

很遗憾,我们发现返回的是int 的32位补码。注意是:补码

按理说我们应该是从133 % 8获取的新字符,现在应该也是转为8位的补码,而不是32位

/**
 *将一个byte转成-个二进制的字符串 * @param b
 * @return
 */
private static String byteToBitString(byte b) {
    //使用变量保存b
 int temp = b;//将b转成int
 String str = Integer.toBinaryString(temp);
 return str.substring(str.length() -8);
}

那么现在就可以了吗?其实并不然还有一个补位的问题!比如说我现在输入 1

我所知道的算法之哈夫曼编码_第34张图片

当是正数的时候,当前stu =1 则需要补位、否则是无法完成截取操作的

/**
 *将一个byte转成-个二进制的字符串 * @param b
 * @return
 */
private static String byteToBitString(byte b) {
     //使用变量保存b
     int temp = b;//将b转成int
     //如果是正数我们还存在补高位
     temp |= 256;
     String str = Integer.toBinaryString(temp);
     return str.substring(str.length() -8);
}

运行结果如下:
00000001

???

可能会有小伙伴会问到 temp |=256 是什么意思???为什么要|=256

我所知道的算法之哈夫曼编码_第35张图片

这就涉及到知识点二进制的运算符了,两个二进制对应位为0时该位为0,否则为1

我所知道的算法之哈夫曼编码_第36张图片

这样我们输入十进制:1 的时候,才能进行截取长度,否则不满足

/**
 *将一个byte转成-个二进制的字符串
 * @param flag 标志是否需要补高位、如果是最后一个字节则无需补高位
 * @param b 传入的byte
 * @return 返回b对应的二进制串(按补码返回)
 */
 private static String byteToBitString(boolean flag,byte b) {
     //使用变量保存b
     int temp = b;//将b转成int
     if(flag){
        //如果是正数我们还存在补高位
        temp |= 256;
     }
     String str = Integer.toBinaryString(temp);
     if(flag){
       return str.substring(str.length() -8);
     }else{
       return str;
     }
}

根据八位为一组的思路,就会发现最后一个byte字节就无需补高位

将新字符解码转为原字符串思路分析

  • 找到记录原字符byte转为自定义哈夫曼编码Map
  • 使用StringBuilder记录新字符组的补码
  • 根据自定义哈夫曼编码Map反获取(编码:字符)组成新map
  • 根据StringBuilder匹配新map获取对应字符

第一步:使用StringBuilder记录新字符组的补码

/**
 *  @param huffmanCodes 哈夫曼编码表map
 * @param huffmanBytes 哈夫曼得到的字节数组
 * @return就是原来的字符串对应的数组
 */
private static byte[] decode(Map huffmanCodes,byte[] huffmanBytes){
    //1.使用StringBuilder记录新字符组的补码
    StringBuilder stringBuilder =new StringBuilder();
    //循环记录
    for (int i=0;i
public static void main(String[] args) {

    /得到`"i like like like java do you like a java"`对应byte[]数组
    String content = "i like like like java do you like a java";
    byte[] contentBytes = content.getBytes();
    System.out.println("原byte[]数组长度为:"+contentBytes.length);
    byte[] huffmanCodeBy =haffmanZip(contentBytes);
    System.out.println("n开始进行哈夫曼编码压缩==============================n");
    System.out.println("压缩后的新字符数组:"+Arrays.toString(huffmanCodeBy));
    System.out.println("压缩后的byte[]数组长度为:"+huffmanCodeBy.length);
    decode(huffmanCodes,huffmanCodeBy);
}

运行结果如下:
原byte[]数组长度为:40
原字符数组经过自定义编码后的编码串:1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100
原字符数组经过自定义编码后的编码串长度:133

开始进行哈夫曼编码压缩==============================

压缩后的新字符数组:[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
压缩后的byte[]数组长度为:17
新字符组的补码串:1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100
新字符组的补码串长度:133

第二步:找到记录原字符byte转为自定义哈夫曼编码Map、根据自定义哈夫曼编码Map反获取(编码:字符)组成新map

/**
 * * @param huffmanCodes 哈夫曼编码表map
 * @param huffmanBytes 哈夫曼得到的字节数组
 * @return就是原来的字符串对应的数组
 */
private static byte[] decode(Map huffmanCodes,byte[] huffmanBytes){
     //1.使用StringBuilder记录新字符组的补码
     StringBuilder stringBuilder =new StringBuilder();
     //循环记录
     for (int i=0;i map =new HashMap();
     for(Map.Entry item:huffmanCodes.entrySet()){
          map.put(item.getValue(),item.getKey());
     }
     System.out.println("根据自定义哈夫曼编码Map反获取(编码:字符)组成新map = "+map);
     return null;
 }
 
运行结果如下:

根据自定义哈夫曼编码Map反获取(编码:字符)组成新map = {000=108, 01=32, 100=97, 101=105, 11010=121, 0011=111, 1111=107, 11001=117, 1110=101, 11000=100, 11011=118, 0010=106} 

第三步:根据StringBuilder匹配新map获取对应字符

我所知道的算法之哈夫曼编码_第37张图片

/**
 * * @param huffmanCodes 哈夫曼编码表map
 * @param huffmanBytes 哈夫曼得到的字节数组
 * @return就是原来的字符串对应的数组
 */
private static byte[] decode(Map huffmanCodes,byte[] huffmanBytes){
    //1.使用StringBuilder记录新字符组的补码
     StringBuilder stringBuilder =new StringBuilder();
     //循环记录
     for (int i=0;i map =new HashMap();
     for(Map.Entry item:huffmanCodes.entrySet()){
         map.put(item.getValue(),item.getKey());
     }
        //根据StringBuilder匹配新map获取对应字符
     List list =new ArrayList<>();
     for (int j=0;j
public static void main(String[] args) {

    /得到`"i like like like java do you like a java"`对应byte[]数组
    String content = "i like like like java do you like a java";
    byte[] contentBytes = content.getBytes();
    System.out.println("原byte[]数组长度为:"+contentBytes.length);
    byte[] huffmanCodeBy =haffmanZip(contentBytes);
    System.out.println("n开始进行哈夫曼编码压缩==============================n");
    System.out.println("压缩后的新字符数组:"+Arrays.toString(huffmanCodeBy));
    System.out.println("压缩后的byte[]数组长度为:"+huffmanCodeBy.length);
    byte[] source = decode(huffmanCodes,huffmanCodeBy);
    System.out.println("新字符数组经过根据新map获取对应字符:"+new String(source));
}

运行结果如下:

根据自定义哈夫曼编码Map反获取(编码:字符)组成新map = {000=108, 01=32, 100=97, 101=105, 11010=121, 0011=111, 1111=107, 11001=117, 1110=101, 11000=100, 11011=118, 0010=106}
新字符数组经过根据新map获取对应字符:i like like like java do you like a java

九、最佳实践文件压缩与解压

我们将这个图片文件,进行压缩实践看看

我所知道的算法之哈夫曼编码_第38张图片

思路:读取文件-->得到哈夫曼编码表-->完成压缩

/**
 *@paramsrcFile 希望压缩文件的全路径
 *@param dstFile 压综后将文件放到哪个目录
*/
public static void zipFile(String srcFile, String dstFile) {
     //创建输出流
     OutputStream os = null;
     //对象输出流
     ObjectOutputStream oos;
     //创建文件的输入流
     FileInputStream is = null;
     try {
            //创建文件的输入流
         is = new FileInputStream(srcFile);
         //创建一个和源文 件大小一样的byte[ ]
         byte[] b = new byte[is.available()];
         //读取文件
         is.read(b);
         //直接对文件压缩
         byte[] bytes = haffmanZip(b);
         //创建文件的输出流,存放压缩文件
         os = new FileOutputStream(dstFile);
         //创建一个和文件流关联的ObjectOutputStream;
         oos = new ObjectOutputStream(os);
         //以对象流的方写入哈夫曼编码,为了方便恢复
         oos.writeObject(huffmanCodes);
     } catch (Exception e) {
            System.out.println(e.getMessage());
     } finally {
         try {
            is.close();
            oos.close();
            os.close();
         }catch (Exception e) {
            System.out.println(e.getMessage());
         }
    }
}
public static void main(String[] args) {
    //测试压编文件
    String srcFile = "d://src. bmp";
    String dstFile = "d://dst.zip";
    zipFile(srcFile, dstFile);
    System. out . println("压编文件ok~~");
}

我所知道的算法之哈夫曼编码_第39张图片

会出现无法打开并解压的方式,为什么呢?

因为我们自定义属于自己的的压缩方式,所以解压也要用我们自己的方式去解压

源文件大小:598kb
压缩后的文件大小:76kb

那么接下来我们编写自己的解压方式把

思路:读取压缩文件(数据和哈弗曼编码表)-->完成解压

//编写一个方法,完成对压缩文件的解压
/**
 * @param zipFile 准备解压的文件
 * @param dstFile 将文件解压到哪个路径
*/
public static void unZipFile(String zipFile, String dstFile) {
     //定义文件输入流
     InputStream is = null;
     //对象输出流
     ObjectInputStream ois = null;
     //创建输出流
     OutputStream os = null;
     try {
         //创建文件的输入流
         is = new FileInputStream(zipFile);
         //创建一个和文件流关联的ObjectOutputStream;
         ois = new ObjectInputStream(is);
         //读取byte数组 huffmanbytes
         byte[] huffmanBytes = (byte[])ois.readObject();
         //获取哈夫曼编码表
         Map huffmanCodes = (Map)ois.readObject();
         //解码
         byte[] bytes =decode(huffmanCodes,huffmanBytes);
         //将恢复的原byte数组写入文件
         os = new FileOutputStream(dstFile);
         os.write(bytes);
     } catch (Exception e) {
            System.out.println(e.getMessage());
     } finally {
         try {
            os.close();
            ois.close();
            is.close();
         }catch (Exception e) {
            System.out.println(e.getMessage());
         }
    }
}
public static void main(String[] args) {
    
    //测试解压文件
    String zipFile = "d://dst. zip";
    String dstFile = "d://src2. bmp";
    unZipFile(zipFile, dstFile) ;
}

我所知道的算法之哈夫曼编码_第40张图片

你可能感兴趣的:(java,算法,程序员)