影象處理:LBP特徵提取理解
1、LBP特徵的描述
原始的LBP運算元定義為在3*3的視窗內,以視窗中心畫素為閾值,將相鄰的8個畫素的灰度值與其進行比較,若周圍畫素值大於中心畫素值,則該畫素點的位置被標記為1,否則為0。這樣,3*3鄰域內的8個點經比較可產生8位二進位制數(通常轉換為十進位制數即LBP碼,共256
LBP的改進版本:
原始的LBP提出後,研究人員不斷對其提出了各種改進和優化。
(1)圓形LBP運算元:
基本的 LBP運算元的最大缺陷在於它只覆蓋了一個固定半徑範圍內的小區域,這顯然不能滿足不同尺寸和頻率紋理的需要。為了適應不同尺度的紋理特徵,並達到灰度和旋轉不變性的要求,Ojala等對 LBP運算元進行了改進,將 3×3鄰域擴充套件到任意鄰域,並用圓形鄰域代替了正方形鄰域,改進後的 LBP運算元允許在半徑為 R 的圓形鄰域內有任意多個畫素點。從而得到了諸如半徑為R的圓形區域內含有P
(2)LBP旋轉不變模式
從 LBP 的定義可以看出,LBP 運算元是灰度不變的,但卻不是旋轉不變的。影象的旋轉就會得到不同的 LBP值。
Maenpaa等人又將 LBP運算元進行了擴充套件,提出了具有旋轉不變性的 LBP運算元,即不斷旋轉圓形鄰域得到一系列初始定義的 LBP值,取其最小值作為該鄰域的 LBP值。
圖 2.5 給出了求取旋轉不變的 LBP 的過程示意圖,圖中運算元下方的數字表示該運算元對應的 LBP值,圖中所示的 8種 LBP模式,經過旋轉不變的處理,最終得到的具有旋轉不變性的 LBP值為 15。也就是說,圖中的 8
(3)LBP等價模式
一個LBP運算元可以產生不同的二進位制模式,對於半徑為R的圓形區域內含有P個取樣點的LBP運算元將會產生P2種模式。很顯然,隨著鄰域集內取樣點數的增加,二進位制模式的種類是急劇增加的。例如:5×5鄰域內20個取樣點,有220=1,048,576種二進位制模式。如此多的二值模式無論對於紋理的提取還是對於紋理的識別、分類及資訊的存取都是不利的。同時,過多的模式種類對於紋理的表達是不利的。例如,將LBP運算元用於紋理分類或人臉識別時,常採用LBP模式的統計直方圖來表達影象的資訊,而較多的模式種類將使得資料量過大,且直方圖過於稀疏。因此,需要對原始的LBP模式進行降維,使得資料量減少的情況下能最好的代表影象的資訊。
為了解決二進位制模式過多的問題,提高統計性,Ojala提出了採用一種“等價模式”(Uniform Pattern)來對LBP運算元的模式種類進行降維。Ojala等認為,在實際影象中,絕大多數LBP模式最多隻包含兩次從1到0或從0到1的跳變。因此,Ojala將“等價模式”定義為:當某個LBP所對應的迴圈二進位制數從0到1或從1到0最多有兩次跳變時,該LBP所對應的二進位制就稱為一個等價模式類。如00000000(0次跳變),00000111(只含一次從0到1的跳變),10001111(先由1跳到0,再由0跳到1,共兩次跳變)都是等價模式類。除等價模式類以外的模式都歸為另一類,稱為混合模式類,例如10010111(共四次跳變)(這是我的個人理解,不知道對不對)。
通過這樣的改進,二進位制模式的種類大大減少,而不會丟失任何資訊。模式數量由原來的2P種減少為 P ( P-1)+2種,其中P表示鄰域集內的取樣點數。對於3×3鄰域內8個取樣點來說,二進位制模式由原始的256種減少為58種,這使得特徵向量的維數更少,並且可以減少高頻噪聲帶來的影響。
2、LBP特徵用於檢測的原理
顯而易見的是,上述提取的LBP運算元在每個畫素點都可以得到一個LBP“編碼”,那麼,對一幅影象(記錄的是每個畫素點的灰度值)提取其原始的LBP運算元之後,得到的原始LBP特徵依然是“一幅圖片”(記錄的是每個畫素點的LBP值)。
LBP的應用中,如紋理分類、人臉分析等,一般都不將LBP圖譜作為特徵向量用於分類識別,而是採用LBP特徵譜的統計直方圖作為特徵向量用於分類識別。
因為,從上面的分析我們可以看出,這個“特徵”跟位置資訊是緊密相關的。直接對兩幅圖片提取這種“特徵”,並進行判別分析的話,會因為“位置沒有對準”而產生很大的誤差。後來,研究人員發現,可以將一幅圖片劃分為若干的子區域,對每個子區域內的每個畫素點都提取LBP特徵,然後,在每個子區域內建立LBP特徵的統計直方圖。如此一來,每個子區域,就可以用一個統計直方圖來進行描述;整個圖片就由若干個統計直方圖組成;
例如:一幅100*100畫素大小的圖片,劃分為10*10=100個子區域(可以通過多種方式來劃分區域),每個子區域的大小為10*10畫素;在每個子區域內的每個畫素點,提取其LBP特徵,然後,建立統計直方圖;這樣,這幅圖片就有10*10個子區域,也就有了10*10個統計直方圖,利用這10*10個統計直方圖,就可以描述這幅圖片了。之後,我們利用各種相似性度量函式,就可以判斷兩幅影象之間的相似性了;
3、對LBP特徵向量進行提取的步驟
(1)首先將檢測視窗劃分為16×16的小區域(cell);
(2)對於每個cell中的一個畫素,將相鄰的8個畫素的灰度值與其進行比較,若周圍畫素值大於中心畫素值,則該畫素點的位置被標記為1,否則為0。這樣,3*3鄰域內的8個點經比較可產生8位二進位制數,即得到該視窗中心畫素點的LBP值;
(3)然後計算每個cell的直方圖,即每個數字(假定是十進位制數LBP值)出現的頻率;然後對該直方圖進行歸一化處理。
(4)最後將得到的每個cell的統計直方圖進行連線成為一個特徵向量,也就是整幅圖的LBP紋理特徵向量;
然後便可利用SVM或者其他機器學習演算法進行分類了。
===========================================================================
人臉識別之LBP (Local Binary Pattern)
1.演算法簡介
LBP是一種簡單,有效的紋理分類的特徵提取演算法。LBP運算元是由Ojala等人於1996年提出的,主要的論文是"Multiresolution gray-scale and rotation invariant texture classification with local binary patterns", pami, vol 24, no.7, July 2002。LBP就是"local binary pattern"的縮寫。
從紋理分析的角度來看,影象上某個畫素點的紋理特徵,大多數情況下是指這個點和周圍畫素點的關係,即這個點和它的鄰域內點的關係。從哪個角度對這種關係提取特徵,就形成了不同種類的特徵。有了特徵,就能根據紋理進行分類。LBP構造了一種衡量一個畫素點和它周圍畫素點的關係。
對影象中的每個畫素,通過計算以其為中心的3*3鄰域內各畫素和中心畫素的大小關係,把畫素的灰度值轉化為一個八位二進位制序列。具體計算過程如下圖所示,對於影象的任意一點Ic,其LBP特徵計算為,以Ic為中心,取與Ic相鄰的8各點,按照順時針的方向記為 I0,I1,...,I7;以Ic點的畫素值為閾值,如果 Ii 點的畫素值小於Ic,則 Ii 被二值化為0,否則為1;將二值化得到的0、1序列看成一個8位二進位制數,將該二進位制數轉化為十進位制就可得到Ic點處的LBP運算元的值。
基本的LBP運算元只侷限在3*3的鄰域內,對於較大影象大尺度的結構不能很好的提取需要的紋理特徵,因此研究者們對LBP運算元進行了擴充套件。新的LBP運算元LBP(P,R) 可以計算不同半徑鄰域大小和不同畫素點數的特徵值,其中P表示周圍畫素點個數,R表示鄰域半徑,同時把原來的方形鄰域擴充套件到了圓形,下圖給出了四種擴充套件後的LBP例子,其中,R可以是小數,對於沒有落到整數位置的點,根據軌道內離其最近的兩個整數位置畫素灰度值,利用雙線性差值的方法可以計算它的灰度值。
LBP(P,R)有2^p個值,也就是說影象共有2^p種二進位制模型,然而實際研究中發現,所有模式表達資訊的重要程度是不同的,統計研究表明,一幅影象中少數模式特別集中,達到總模式的百分之九十左右的比例,Ojala等人定義這種模式為Uniform模式,如果一個二進位制序列看成一個圈時,0-1以及1-0的變化出現的次數總和不超過兩次,那麼這個序列就是Uniform模式 ,比如,00000000、00011110、00100001、11111111,在使用LBP表達影象紋理時,通常只關心Uniform模式,而將所有其他的模式歸到同一類中。
人臉影象的各種LBP模式如下圖所示,由圖中可以看出,變化後的影象和原影象相比,能更清晰的體現各典型區域的紋理,同時又淡化了對於研究價值不大的平滑區域的特徵,同時降低了特徵的維數。比較而言,Uniform模式表現的更逼真,在人臉識別和表情識別應用中,都是採用這種模式。
在表情識別中,最常用的是把LBP的統計柱狀圖作為表情影象的特徵向量。為了考慮特徵的位置資訊,把影象分成若干個小區域,在每個小區域裡進行直方圖統計,即統計該區域內屬於某一模式的數量,最後再把所有區域的直方圖一次連線到一起作為特徵向量接受下一級的處理。
LBP運算元利用了周圍點與該點的關係對該點進行量化。量化後可以更有效地消除光照對影象的影響。只要光照的變化不足以改變兩個點畫素值之間的大小關係,那麼LBP運算元的值不會發生變化,所以一定程度上,基於LBP的識別演算法解決了光照變化的問題,但是當影象光照變化不均勻時,各畫素間的大小關係被破壞,對應的LBP模式也就發生了變化。
如果影象旋轉了,那麼紋理特徵就旋轉了,這時得到的2進位制串也就旋轉了,LBP值會相應變化。為了讓LBP具有旋轉不變性,將二進位制串進行旋轉。假設一開始得到的LBP特徵為10010000,那麼將這個二進位制特徵,按照順時針方向旋轉,可以轉化為00001001的形式,這樣得到的LBP值是最小的。無論影象怎麼旋轉,對點提取的二進位制特徵的最小值是不變的,用最小值作為提取的LBP特徵,這樣LBP就是旋轉不變的了。當P=8時,能產生的不同的二進位制特徵數量是2^8個,經過上述表示,就變為36個。(我以為應當是2^8/8=32個)