學到這一講不禁再一次被資訊理論的魅力所征服～

同時也感到優秀的大學的課程資源確實更好，羨慕。。。

Huffman編碼：

這裡並不侷限於兩兩合併，三三合併等也是可以的。

Huffman編碼的平均碼長是最優的。

Huffman編碼的結果不唯一。

如果出現編碼元素不夠的情況可以增加空內容來解決：

由於每次合併減少（D-1）個符號，所以我們要加1+k(D-1)個空符號。

最優編碼性質：

對比Shannon編碼：

Shannon編碼對於p都是D^(-n)是最優的。

Shannon編碼的問題：當p趨於0時，編碼長度過大。

Huffman編碼最優性證明（太強了～）

 Shannon-Fano-Elias編碼：核心->累計概率中值擷取

 其效能僅比Huffman差一點，但是是一種全新的編碼方式。

例項及性質：

上述結論表明任一種編碼不可能在所有方面比Shannon-Fano-Elias編碼好。

由此也能看出Shannon-Fano-Elias編碼的強大。

最後我覺得Huffman的經歷也很精彩，貼上：