1. 程式人生 > 其它 >赫夫曼編碼碼(Huffman Coding)

赫夫曼編碼碼(Huffman Coding)

基本介紹

1) 赫夫曼編碼也翻譯為

哈夫曼編碼(Huffman Coding),又稱霍夫曼編碼,是一種編碼方式, 屬於一種程式演算法

2) 赫夫曼編碼是赫哈夫曼樹在電訊通訊中的經典的應用之一。

3) 赫夫曼編碼廣泛地用於資料檔案壓縮。其壓縮率通常在 20%~90%之間

4) 赫夫曼碼是可變字長編碼(VLC)的一種。Huffman 於 1952 年提出一種編碼方法,稱之為最佳編碼

通訊領域中資訊的處理方式 -赫夫曼編碼

傳輸的 字串

1) i like like like java do you like a java

2) d:1 y:1 u:1 j:2 v:2 o:2 l:4 k:4 e:4 i:5 a:5

:9 // 各個字元對應的個數

3) 按照上面字元出現的次數構建一顆赫夫曼樹, 次數作為權值

步驟:

構成赫夫曼樹的步驟:

1) 從小到大進行排序, 將每一個數據,每個資料都是一個節點 , 每個節點可以看成是一顆最簡單的二叉樹

2) 取出根節點權值最小的兩顆二叉樹

3) 組成一顆新的二叉樹, 該新的二叉樹的根節點的權值是前面兩顆二叉樹根節點權值的和

4) 再將這顆新的二叉樹,以根節點的權值大小 再次排序, 不斷重複 1-2-3-4 的步驟,直到數列中,所有的資料都被處理,

就得到一顆赫夫曼樹

4) 根據赫夫曼樹,給各個字元,規定編碼 (字首編碼), 向左的路徑為 0 向右的路徑為 1 , 編碼

如下:

o: 1000

u: 10010 d: 100110 y: 100111 i: 101

a : 110

k: 1110

e: 1111

j: 0000

v: 0001

l: 001

: 01

5) 按照上面的赫夫曼編碼,我們的"i like like like java do you like a java"

字串對應的編碼為 (注

意這裡我們使用的無失真壓縮)

10101001101111011110100110111101111010011011110111101000011000011100110011110000110

01111000100100100110111101111011100100001100001110 通過赫夫曼編碼處理 長度為 133

6) 長度為 : 133

說明:

原來長度是 359 , 壓縮了 (359-133) / 359 = 62.9%

此編碼滿足字首編碼, 即字元的編碼都不能是其他字元編碼的字首。不會造成匹配的多義性

赫夫曼編碼是無損處理方案

注意事項

注意, 這個赫夫曼樹根據排序方法不同,也可能不太一樣,這樣對應的赫夫曼編碼也不完全一樣,但是 wpl

一樣的,都是最小的, 最後生成的赫夫曼編碼的長度是一樣,比如: 如果我們讓每次生成的新的二叉樹總是排在權

值相同的二叉樹的最後一個,則生成的二叉樹為:

最佳實踐-資料壓縮(建立赫夫曼樹)

將給出的一段文字,比如 "i like like like java do you like a java" , 根據前面的講的赫夫曼編碼原理,對其進行數

據壓縮處理,形式如"1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100

110111101111011100100001100001110

根據赫夫曼編碼壓縮資料的原理,

需要建立 "i like like like java do you like a java" 對應的赫夫曼樹.

1) 生成赫夫曼樹對應的赫夫曼編碼 , 如下表:

=01 a=100 d=11000 u=11001 e=1110 v=11011 i=101 y=11010 j=0010 k=1111 l=000 o=0011

2) 使用赫夫曼編碼來生成赫夫曼編碼資料 ,即按照上面的赫夫曼編碼,將"i like like like java do you like a java"

字串生成對應的編碼資料, 形式如下.

10101000101111111100100010111111110010001011111111001001010011011100011100000110111010001111001010

00101111111100110001001010011011100

使用赫夫曼編碼來解碼資料,具體要求是

1) 前面我們得到了赫夫曼編碼和對應的編碼

byte[] , 即:[-88, -65, -56, -65, -56, -65, -55, 77

, -57, 6, -24, -14, -117, -4, -60, -90, 28]

2) 現在要求使用赫夫曼編碼, 進行解碼,又

重新得到原來的字串"i like like like java do you like a java"

檔案壓縮

我們學習了通過赫夫曼編碼對一個字串進行編碼和解碼, 下面我們來完成對檔案的壓縮和解壓, 具體要求:

給你一個圖片檔案,要求對其進行無失真壓縮, 看看壓縮效果如何。

1) 思路:讀取檔案-> 得到赫夫曼編碼表 -> 完成壓縮

檔案解壓(檔案恢復)

具體要求:將前面壓縮的檔案,重新恢復成原來的檔案。

1) 思路:讀取壓縮檔案(資料和赫夫曼編碼表)-> 完成解壓(檔案恢復)


import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.io.ObjectInputStream;
import java.io.ObjectOutputStream;
import java.io.OutputStream;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.Collections;
import java.util.HashMap;
import java.util.List;
import java.util.Map;

public class HuffmanCode {

	public static void main(String[] args) {
		
		//測試壓縮檔案
//		String srcFile = "d://Uninstall.xml";
//		String dstFile = "d://Uninstall.zip";
//		
//		zipFile(srcFile, dstFile);
//		System.out.println("壓縮檔案ok~~");
		
		
		//測試解壓檔案
		String zipFile = "d://Uninstall.zip";
		String dstFile = "d://Uninstall2.xml";
		unZipFile(zipFile, dstFile);
		System.out.println("解壓成功!");
		
		/*
		String content = "i like like like java do you like a java";
		byte[] contentBytes = content.getBytes();
		System.out.println(contentBytes.length); //40
		
		byte[] huffmanCodesBytes= huffmanZip(contentBytes);
		System.out.println("壓縮後的結果是:" + Arrays.toString(huffmanCodesBytes) + " 長度= " + huffmanCodesBytes.length);
		
		
		//測試一把byteToBitString方法
		//System.out.println(byteToBitString((byte)1));
		byte[] sourceBytes = decode(huffmanCodes, huffmanCodesBytes);
		
		System.out.println("原來的字串=" + new String(sourceBytes)); // "i like like like java do you like a java"
		*/
		
		
		
		//如何將 資料進行解壓(解碼)  
		//分步過程
		/*
		List<Node> nodes = getNodes(contentBytes);
		System.out.println("nodes=" + nodes);
		
		//測試一把,建立的赫夫曼樹
		System.out.println("赫夫曼樹");
		Node huffmanTreeRoot = createHuffmanTree(nodes);
		System.out.println("前序遍歷");
		huffmanTreeRoot.preOrder();
		
		//測試一把是否生成了對應的赫夫曼編碼
		Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
		System.out.println("~生成的赫夫曼編碼表= " + huffmanCodes);
		
		//測試
		byte[] huffmanCodeBytes = zip(contentBytes, huffmanCodes);
		System.out.println("huffmanCodeBytes=" + Arrays.toString(huffmanCodeBytes));//17
		
		//傳送huffmanCodeBytes 陣列 */
		
		
	}
	
	//編寫一個方法,完成對壓縮檔案的解壓
	/**
	 * 
	 * @param zipFile 準備解壓的檔案
	 * @param dstFile 將檔案解壓到哪個路徑
	 */
	public static void unZipFile(String zipFile, String dstFile) {
		
		//定義檔案輸入流
		InputStream is = null;
		//定義一個物件輸入流
		ObjectInputStream ois = null;
		//定義檔案的輸出流
		OutputStream os = null;
		try {
			//建立檔案輸入流
			is = new FileInputStream(zipFile);
			//建立一個和  is關聯的物件輸入流
			ois = new ObjectInputStream(is);
			//讀取byte陣列  huffmanBytes
			byte[] huffmanBytes = (byte[])ois.readObject();
			//讀取赫夫曼編碼表
			Map<Byte,String> huffmanCodes = (Map<Byte,String>)ois.readObject();
			
			//解碼
			byte[] bytes = decode(huffmanCodes, huffmanBytes);
			//將bytes 陣列寫入到目標檔案
			os = new FileOutputStream(dstFile);
			//寫資料到 dstFile 檔案
			os.write(bytes);
		} catch (Exception e) {
			// TODO: handle exception
			System.out.println(e.getMessage());
		} finally {
			
			try {
				os.close();
				ois.close();
				is.close();
			} catch (Exception e2) {
				// TODO: handle exception
				System.out.println(e2.getMessage());
			}
			
		}
	}
	
	//編寫方法,將一個檔案進行壓縮
	/**
	 * 
	 * @param srcFile 你傳入的希望壓縮的檔案的全路徑
	 * @param dstFile 我們壓縮後將壓縮檔案放到哪個目錄
	 */
	public static void zipFile(String srcFile, String dstFile) {
		
		//建立輸出流
		OutputStream os = null;
		ObjectOutputStream oos = null;
		//建立檔案的輸入流
		FileInputStream is = null;
		try {
			//建立檔案的輸入流
			is = new FileInputStream(srcFile);
			//建立一個和原始檔大小一樣的byte[]
			byte[] b = new byte[is.available()];
			//讀取檔案
			is.read(b);
			//直接對原始檔壓縮
			byte[] huffmanBytes = huffmanZip(b);
			//建立檔案的輸出流, 存放壓縮檔案
			os = new FileOutputStream(dstFile);
			//建立一個和檔案輸出流關聯的ObjectOutputStream
			oos = new ObjectOutputStream(os);
			//把 赫夫曼編碼後的位元組陣列寫入壓縮檔案
			oos.writeObject(huffmanBytes); //我們是把
			//這裡我們以物件流的方式寫入 赫夫曼編碼,是為了以後我們恢復原始檔時使用
			//注意一定要把赫夫曼編碼 寫入壓縮檔案
			oos.writeObject(huffmanCodes);
			
			
		}catch (Exception e) {
			// TODO: handle exception
			System.out.println(e.getMessage());
		}finally {
			try {
				is.close();
				oos.close();
				os.close();
			}catch (Exception e) {
				// TODO: handle exception
				System.out.println(e.getMessage());
			}
		}
		
	}
	
	//完成資料的解壓
	//思路
	//1. 將huffmanCodeBytes [-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
	//   重寫先轉成 赫夫曼編碼對應的二進位制的字串 "1010100010111..."
	//2.  赫夫曼編碼對應的二進位制的字串 "1010100010111..." =》 對照 赫夫曼編碼  =》 "i like like like java do you like a java"
	
	
	//編寫一個方法,完成對壓縮資料的解碼
	/**
	 * 
	 * @param huffmanCodes 赫夫曼編碼表 map
	 * @param huffmanBytes 赫夫曼編碼得到的位元組陣列
	 * @return 就是原來的字串對應的陣列
	 */
	private static byte[] decode(Map<Byte,String> huffmanCodes, byte[] huffmanBytes) {
		
		//1. 先得到 huffmanBytes 對應的 二進位制的字串 , 形式 1010100010111...
		StringBuilder stringBuilder = new StringBuilder();
		//將byte陣列轉成二進位制的字串
		for(int i = 0; i < huffmanBytes.length; i++) {
			byte b = huffmanBytes[i];
			//判斷是不是最後一個位元組
			boolean flag = (i == huffmanBytes.length - 1);
			stringBuilder.append(byteToBitString(!flag, b));
		}
		//把字串安裝指定的赫夫曼編碼進行解碼
		//把赫夫曼編碼表進行調換,因為反向查詢 a->100 100->a
		Map<String, Byte>  map = new HashMap<String,Byte>();
		for(Map.Entry<Byte, String> entry: huffmanCodes.entrySet()) {
			map.put(entry.getValue(), entry.getKey());
		}
		
		//建立要給集合,存放byte
		List<Byte> list = new ArrayList<>();
		//i 可以理解成就是索引,掃描 stringBuilder 
		for(int  i = 0; i < stringBuilder.length(); ) {
			int count = 1; // 小的計數器
			boolean flag = true;
			Byte b = null;
			
			while(flag) {
				//1010100010111...
				//遞增的取出 key 1 
				String key = stringBuilder.substring(i, i+count);//i 不動,讓count移動,指定匹配到一個字元
				b = map.get(key);
				if(b == null) {//說明沒有匹配到
					count++;
				}else {
					//匹配到
					flag = false;
				}
			}
			list.add(b);
			i += count;//i 直接移動到 count	
		}
		//當for迴圈結束後,我們list中就存放了所有的字元  "i like like like java do you like a java"
		//把list 中的資料放入到byte[] 並返回
		byte b[] = new byte[list.size()];
		for(int i = 0;i < b.length; i++) {
			b[i] = list.get(i);
		}
		return b;
		
	}
 	
	/**
	 * 將一個byte 轉成一個二進位制的字串, 如果看不懂,可以參考我講的Java基礎 二進位制的原碼,反碼,補碼
	 * @param b 傳入的 byte
	 * @param flag 標誌是否需要補高位如果是true ,表示需要補高位,如果是false表示不補, 如果是最後一個位元組,無需補高位
	 * @return 是該b 對應的二進位制的字串,(注意是按補碼返回)
	 */
	private static String byteToBitString(boolean flag, byte b) {
		//使用變數儲存 b
		int temp = b; //將 b 轉成 int
		//如果是正數我們還存在補高位
		if(flag) {
			temp |= 256; //按位與 256  1 0000 0000  | 0000 0001 => 1 0000 0001
		}
		String str = Integer.toBinaryString(temp); //返回的是temp對應的二進位制的補碼
		if(flag) {
			return str.substring(str.length() - 8);
		} else {
			return str;
		}
	}
	
	//使用一個方法,將前面的方法封裝起來,便於我們的呼叫.
	/**
	 * 
	 * @param bytes 原始的字串對應的位元組陣列
	 * @return 是經過 赫夫曼編碼處理後的位元組陣列(壓縮後的陣列)
	 */
	private static byte[] huffmanZip(byte[] bytes) {
		List<Node> nodes = getNodes(bytes);
		//根據 nodes 建立的赫夫曼樹
		Node huffmanTreeRoot = createHuffmanTree(nodes);
		//對應的赫夫曼編碼(根據 赫夫曼樹)
		Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
		//根據生成的赫夫曼編碼,壓縮得到壓縮後的赫夫曼編碼位元組陣列
		byte[] huffmanCodeBytes = zip(bytes, huffmanCodes);
		return huffmanCodeBytes;
	}
	
	
	//編寫一個方法,將字串對應的byte[] 陣列,通過生成的赫夫曼編碼表,返回一個赫夫曼編碼 壓縮後的byte[]
	/**
	 * 
	 * @param bytes 這時原始的字串對應的 byte[]
	 * @param huffmanCodes 生成的赫夫曼編碼map
	 * @return 返回赫夫曼編碼處理後的 byte[] 
	 * 舉例: String content = "i like like like java do you like a java"; =》 byte[] contentBytes = content.getBytes();
	 * 返回的是 字串 "1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100"
	 * => 對應的 byte[] huffmanCodeBytes  ,即 8位對應一個 byte,放入到 huffmanCodeBytes
	 * huffmanCodeBytes[0] =  10101000(補碼) => byte  [推導  10101000=> 10101000 - 1 => 10100111(反碼)=> 11011000= -88 ]
	 * huffmanCodeBytes[1] = -88
	 */
	private static byte[] zip(byte[] bytes, Map<Byte, String> huffmanCodes) {
		
		//1.利用 huffmanCodes 將  bytes 轉成  赫夫曼編碼對應的字串
		StringBuilder stringBuilder = new StringBuilder();
		//遍歷bytes 陣列 
		for(byte b: bytes) {
			stringBuilder.append(huffmanCodes.get(b));
		}
		
		//System.out.println("測試 stringBuilder~~~=" + stringBuilder.toString());
		
		//將 "1010100010111111110..." 轉成 byte[]
		
		//統計返回  byte[] huffmanCodeBytes 長度
		//一句話 int len = (stringBuilder.length() + 7) / 8;
		int len;
		if(stringBuilder.length() % 8 == 0) {
			len = stringBuilder.length() / 8;
		} else {
			len = stringBuilder.length() / 8 + 1;
		}
		//建立 儲存壓縮後的 byte陣列
		byte[] huffmanCodeBytes = new byte[len];
		int index = 0;//記錄是第幾個byte
		for (int i = 0; i < stringBuilder.length(); i += 8) { //因為是每8位對應一個byte,所以步長 +8
				String strByte;
				if(i+8 > stringBuilder.length()) {//不夠8位
					strByte = stringBuilder.substring(i);
				}else{
					strByte = stringBuilder.substring(i, i + 8);
				}	
				//將strByte 轉成一個byte,放入到 huffmanCodeBytes
				huffmanCodeBytes[index] = (byte)Integer.parseInt(strByte, 2);
				index++;
		}
		return huffmanCodeBytes;
	}
	
	//生成赫夫曼樹對應的赫夫曼編碼
	//思路:
	//1. 將赫夫曼編碼表存放在 Map<Byte,String> 形式
	//   生成的赫夫曼編碼表{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}
	static Map<Byte, String> huffmanCodes = new HashMap<Byte,String>();
	//2. 在生成赫夫曼編碼表示,需要去拼接路徑, 定義一個StringBuilder 儲存某個葉子結點的路徑
	static StringBuilder stringBuilder = new StringBuilder();
	
	
	//為了呼叫方便,我們過載 getCodes
	private static Map<Byte, String> getCodes(Node root) {
		if(root == null) {
			return null;
		}
		//處理root的左子樹
		getCodes(root.left, "0", stringBuilder);
		//處理root的右子樹
		getCodes(root.right, "1", stringBuilder);
		return huffmanCodes;
	}
	
	/**
	 * 功能:將傳入的node結點的所有葉子結點的赫夫曼編碼得到,並放入到huffmanCodes集合
	 * @param node  傳入結點
	 * @param code  路徑: 左子結點是 0, 右子結點 1
	 * @param stringBuilder 用於拼接路徑
	 */
	private static void getCodes(Node node, String code, StringBuilder stringBuilder) {
		StringBuilder stringBuilder2 = new StringBuilder(stringBuilder);
		//將code 加入到 stringBuilder2
		stringBuilder2.append(code);
		if(node != null) { //如果node == null不處理
			//判斷當前node 是葉子結點還是非葉子結點
			if(node.data == null) { //非葉子結點
				//遞迴處理
				//向左遞迴
				getCodes(node.left, "0", stringBuilder2);
				//向右遞迴
				getCodes(node.right, "1", stringBuilder2);
			} else { //說明是一個葉子結點
				//就表示找到某個葉子結點的最後
				huffmanCodes.put(node.data, stringBuilder2.toString());
			}
		}
	}
	
	//前序遍歷的方法
	private static void preOrder(Node root) {
		if(root != null) {
			root.preOrder();
		}else {
			System.out.println("赫夫曼樹為空");
		}
	}
	
	/**
	 * 
	 * @param bytes 接收位元組陣列
	 * @return 返回的就是 List 形式   [Node[date=97 ,weight = 5], Node[]date=32,weight = 9]......],
	 */
	private static List<Node> getNodes(byte[] bytes) {
		
		//1建立一個ArrayList
		ArrayList<Node> nodes = new ArrayList<Node>();
		
		//遍歷 bytes , 統計 每一個byte出現的次數->map[key,value]
		Map<Byte, Integer> counts = new HashMap<>();
		for (byte b : bytes) {
			Integer count = counts.get(b);
			if (count == null) { // Map還沒有這個字元資料,第一次
				counts.put(b, 1);
			} else {
				counts.put(b, count + 1);
			}
		}
		
		//把每一個鍵值對轉成一個Node 物件,並加入到nodes集合
		//遍歷map
		for(Map.Entry<Byte, Integer> entry: counts.entrySet()) {
			nodes.add(new Node(entry.getKey(), entry.getValue()));
		}
		return nodes;
		
	}
	
	//可以通過List 建立對應的赫夫曼樹
	private static Node createHuffmanTree(List<Node> nodes) {
		
		while(nodes.size() > 1) {
			//排序, 從小到大
			Collections.sort(nodes);
			//取出第一顆最小的二叉樹
			Node leftNode = nodes.get(0);
			//取出第二顆最小的二叉樹
			Node rightNode = nodes.get(1);
			//建立一顆新的二叉樹,它的根節點 沒有data, 只有權值
			Node parent = new Node(null, leftNode.weight + rightNode.weight);
			parent.left = leftNode;
			parent.right = rightNode;
			
			//將已經處理的兩顆二叉樹從nodes刪除
			nodes.remove(leftNode);
			nodes.remove(rightNode);
			//將新的二叉樹,加入到nodes
			nodes.add(parent);
			
		}
		//nodes 最後的結點,就是赫夫曼樹的根結點
		return nodes.get(0);
		
	}
	

}



//建立Node ,待資料和權值
class Node implements Comparable<Node>  {
	Byte data; // 存放資料(字元)本身,比如'a' => 97 ' ' => 32
	int weight; //權值, 表示字元出現的次數
	Node left;//
	Node right;
	public Node(Byte data, int weight) {
		
		this.data = data;
		this.weight = weight;
	}
	@Override
	public int compareTo(Node o) {
		// 從小到大排序
		return this.weight - o.weight;
	}
	
	public String toString() {
		return "Node [data = " + data + " weight=" + weight + "]";
	}
	
	//前序遍歷
	public void preOrder() {
		System.out.println(this);
		if(this.left != null) {
			this.left.preOrder();
		}
		if(this.right != null) {
			this.right.preOrder();
		}
	}
}

赫夫曼編碼壓縮檔案注意事項

1) 如果檔案本身就是經過壓縮處理的,那麼使用赫夫曼編碼再壓縮效率不會有明顯變化, 比如視訊,ppt 等等檔案

[舉例壓一個 .ppt]

2) 赫夫曼編碼是按位元組來處理的,因此可以處理所有的檔案(二進位制檔案、文字檔案) [舉例壓一個.xml 檔案]

3) 如果一個檔案中的內容,重複的資料不多,壓縮效果也不會很明顯.