算法科普:有趣的霍夫曼编码

算法科普:有趣的霍夫曼编码

第 84 篇原创

前言

霍夫曼编码 ( Huffman coding ) 是一种可变长的前缀码。霍夫曼编码使用的算法是 David A. Huffman 还是在MIT 的学生时提出的,并且在 1952 年发表了名为《 A Method for the Construction of Minimum-Redundancy Codes 》的文章。

编码这种编码的过程叫做 霍夫曼编码,它是一种普遍的熵编码技术,包括用于无损数据压缩领域。

霍夫曼编码过程

霍夫曼编码使用一种特别的方法为信号源中的每个符号设定二进制码。出现频率更大的符号将获得更短的比特,出现频率更小的符号将被分配更长的比特,以此来提高数据压缩率,提高传输效率。

以字符串 ” ABAABACD “ 为例进行说明。

接下来,按照字符出现的比例从高往低对字符进行排序。

算法科普:有趣的霍夫曼编码
图 1

然后,按出现比例低的顺序查找两个字母。在这种情况下,它是 “ C ” 12.5% 和 “ D ” 12.5% 。

通过一条线连接两个字母拼构成一个树状结果。将两个字母合并为 “ C 或 D”,并将出现比率相加起来。

算法科普:有趣的霍夫曼编码
动画 2

按照同样的操作,将合并后的 “ C 或 D ” 视为一个字符,重复相同的操作。

在 “ A ” “B” ” C 或 D ” 三个中,按照出现比例低的顺序查找两个字母。

算法科普:有趣的霍夫曼编码
图 3
算法科普:有趣的霍夫曼编码
图 4

这样,所有的字母都变成了 ” A 或 B 或 C 或 D” ,出现的比率为 100% 。

图 4 就是霍夫曼编码的树结构。

接下来再次显示各个字母出现的比率,同时使用 0 和 1 进行编码,代码 0 和 1 分别分配给上下延伸的分支。

算法科普:有趣的霍夫曼编码
图 5

分配完毕后,从树的根部遍历每个字符并确定相应的代码。

  • 在 ” A 的情况下,被分配的代码为  0

  • B 的情况下,被分配的代码为 10

  • C 的情况下,被分配的代码为 110

  • D 的情况下,被分配的代码为 111

算法科普:有趣的霍夫曼编码
动画 6

就这样,通过这样的编码规则, ABAABACD 的二进制编码就变成了 01000100110111 ,只需要 14 个比特就能表示,比单纯的使用 2 比特表示一个字符缩短了很多。

今日问题:

你还了解哪些编码方式?


打卡格式:

打卡 X 天,答:xxx 。


算法科普:有趣的霍夫曼编码

          

喜欢就点击“好看”吧!


本文由 程序员小吴 创作,采用 CC BY 3.0 CN协议 进行许可。 可自由转载、引用,但需署名作者且注明文章出处。如转载至微信公众号,请在先添加作者公众号二维码。
五分钟学算法 » 算法科普:有趣的霍夫曼编码

我还会在以下平台发布内容

GitHub 哔哩哔哩