來自：https://blog.csdn.net/garrylea/article/details/78536775

前言
H264視訊壓縮演算法現在無疑是所有視訊壓縮技術中使用最廣泛，最流行的。隨著 x264/openh264以及ffmpeg等開源庫的推出，大多數使用者無需再對H264的細節做過多的研究，這大降低了人們使用H264的成本。

但為了用好H264，我們還是要對H264的基本原理弄清楚才行。今天我們就來看看H264的基本原理。

H264概述

H264壓縮技術主要採用了以下幾種方法對視訊資料進行壓縮。包括：

• 幀內預測壓縮，解決的是空域資料冗餘問題。
• 幀間預測壓縮（運動估計與補償），解決的是時域資料冗徐問題。
• 整數離散餘弦變換（DCT），將空間上的相關性變為頻域上無關的資料然後進行量化。
• CABAC壓縮。

經過壓縮後的幀分為：I幀，P幀和B幀:

• I幀：關鍵幀，採用幀內壓縮技術。
• P幀：向前參考幀，在壓縮時，只參考前面已經處理的幀。採用幀音壓縮技術。
• B幀：雙向參考幀，在壓縮時，它即參考前而的幀，又參考它後面的幀。採用幀間壓縮技術。

除了I/P/B幀外，還有影象序列GOP。

GOP:兩個I幀之間是一個影象序列，在一個影象序列中只有一個I幀。如下圖所示：

下面我們就來詳細描述一下H264壓縮技術。

H264壓縮技術
H264的基本原理其實非常簡單，下我們就簡單的描述一下H264壓縮資料的過程。通過攝像頭採集到的視訊幀（按每秒 30 幀算），被送到 H264 編碼器的緩衝區中。編碼器先要為每一幅圖片劃分巨集塊。

以下面這張圖為例:

劃分巨集塊
H264預設是使用 16X16 大小的區域作為一個巨集塊，也可以劃分成 8X8 大小。

劃分好巨集塊後，計算巨集塊的象素值。

以此類推，計算一幅影象中每個巨集塊的畫素值，所有巨集塊都處理完後如下面的樣子。

劃分子塊
H264對比較平坦的影象使用 16X16 大小的巨集塊。但為了更高的壓縮率，還可以在 16X16 的巨集塊上更劃分出更小的子塊。子塊的大小可以是 8X16､ 16X8､ 8X8､ 4X8､ 8X4､ 4X4非常的靈活。

上幅圖中，紅框內的 16X16 巨集塊中大部分是藍色背景，而三隻鷹的部分影象被劃在了該巨集塊內，為了更好的處理三隻鷹的部分影象，H264就在 16X16 的巨集塊內又劃分出了多個子塊。

這樣再經過幀內壓縮，可以得到更高效的資料。下圖是分別使用mpeg-2和H264對上面巨集塊進行壓縮後的結果。其中左半部分為MPEG-2子塊劃分後壓縮的結果，右半部分為H264的子塊劃壓縮後的結果，可以看出H264的劃分方法更具優勢。

巨集塊劃分好後，就可以對H264編碼器快取中的所有圖片進行分組了。

幀分組
對於視訊資料主要有兩類資料冗餘，一類是時間上的資料冗餘，另一類是空間上的資料冗餘。其中時間上的資料冗餘是最大的。下面我們就先來說說視訊資料時間上的冗餘問題。

為什麼說時間上的冗餘是最大的呢？假設攝像頭每秒抓取30幀，這30幀的資料大部分情況下都是相關聯的。也有可能不止30幀的的資料，可能幾十幀，上百幀的資料都是關聯特別密切的。

對於這些關聯特別密切的幀，其實我們只需要儲存一幀的資料，其它幀都可以通過這一幀再按某種規則預測出來，所以說視訊資料在時間上的冗餘是最多的。

為了達到相關幀通過預測的方法來壓縮資料，就需要將視訊幀進行分組。那麼如何判定某些幀關係密切，可以劃為一組呢？我們來看一下例子，下面是捕獲的一組運動的檯球的視訊幀，檯球從右上角滾到了左下角。

H264編碼器會按順序，每次取出兩幅相鄰的幀進行巨集塊比較，計算兩幀的相似度。如下圖：

通過巨集塊掃描與巨集塊搜尋可以發現這兩個幀的關聯度是非常高的。進而發現這一組幀的關聯度都是非常高的。因此，上面這幾幀就可以劃分為一組。其演算法是：在相鄰幾幅影象畫面中，一般有差別的畫素只有10%以內的點,亮度差值變化不超過2%，而色度差值的變化只有1%以內，我們認為這樣的圖可以分到一組。

在這樣一組幀中，經過編碼後，我們只保留第一幀的完整資料，其它幀都通過參考上一幀計算出來。我們稱第一幀為IDR／I幀，其它幀我們稱為P／B幀，這樣編碼後的資料幀組我們稱為GOP。

運動估計與補償
在H264編碼器中將幀分組後，就要計算幀組內物體的運動矢量了。還以上面運動的檯球視訊幀為例，我們來看一下它是如何計算運動向量的。

H264編碼器首先按順序從緩衝區頭部取出兩幀視訊資料，然後進行巨集塊掃描。當發現其中一幅圖片中有物體時，就在另一幅圖的鄰近位置（搜尋視窗中）進行搜尋。如果此時在另一幅圖中找到該物體，那麼就可以計算出物體的運動矢量了。下面這幅圖就是搜尋後的檯球移動的位置。

通過上圖中臺球位置相差，就可以計算出臺圖執行的方向和距離。H264依次把每一幀中球移動的距離和方向都記錄下來就成了下面的樣子。

運動向量計算出來後，將相同部分（也就是綠色部分）減去，就得到了補償資料。我們最終只需要將補償資料進行壓縮儲存，以後在解碼時就可以恢復原圖了。壓縮補償後的資料只需要記錄很少的一點資料。如下所示：

我們把運動向量與補償稱為幀間壓縮技術，它解決的是視訊幀在時間上的資料冗餘。除了幀間壓縮，幀內也要進行資料壓縮，幀內資料壓縮解決的是空間上的資料冗餘。下面我們就來介紹一下幀內壓縮技術。

幀內預測
人眼對圖象都有一個識別度，對低頻的亮度很敏感，對高頻的亮度不太敏感。所以基於一些研究，可以將一幅影象中人眼不敏感的資料去除掉。這樣就提出了幀內預測技術。

H264的幀內壓縮與JPEG很相似。一幅影象被劃分好巨集塊後，對每個巨集塊可以進行 9 種模式的預測。找出與原圖最接近的一種預測模式。

然後，將原始影象與幀內預測後的影象相減得殘差值。

對殘差資料做DCT
可以將殘差資料做整數離散餘弦變換，去掉資料的相關性，進一步壓縮資料。如下圖所示，左側為原資料的巨集塊，右側為計算出的殘差資料的巨集塊。

做完 DCT 後，還不夠，還要進行 CABAC 進行無失真壓縮。

CABAC
上面的幀內壓縮是屬於有失真壓縮技術。也就是說影象被壓縮後，無法完全復原。而CABAC屬於無失真壓縮技術。

無失真壓縮技術大家最熟悉的可能就是哈夫曼編碼了，給高頻的詞一個短碼，給低頻詞一個長碼從而達到資料壓縮的目的。MPEG-2中使用的VLC就是這種演算法，我們以 A-Z 作為例子，A屬於高頻資料，Z屬於低頻資料。看看它是如何做的。

從上面這張圖中明顯可以看出採用 CACBA 的無失真壓縮方案要比 VLC 高效的多。

小結
至此，我們就將H264的編碼原理講完了。本篇文章主要講了以下以點內容： 
1. 簡音介紹了H264中的一些基本概念。如I/P/B幀， GOP。 
2. 詳細講解了H264編碼的基本原理，包括：

• 巨集塊的劃分
• 影象分組
• 幀內壓縮技術原理
• 幀間壓縮技術原理。
• DCT
• CABAC壓縮原理。