1. 程式人生 > 資訊 >AI 造出 9 張“萬能人臉”,可冒充超 40% 的人

AI 造出 9 張“萬能人臉”,可冒充超 40% 的人

8 月 16 日訊息,近日,以色列特拉維夫大學研究人員證明了一種建立“萬能人臉(master face)”的方法。

研究人員通過影象生成系統 StyleGAN 先生成假的人臉影象,然後通過演算法和分類器對比篩選出與真實人臉相似度最高的影象,最終獲得 9 張“萬能人臉”影象。

這種計算機生成的“萬能人臉”作用就像萬能鑰匙一樣,可以模仿多個身份,通過基於人臉識別的身份驗證。

該研究論文題目為《利用網路輔助的潛在空間演化生成字典攻擊的萬能人臉(Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution)》,已提交至論文預印本釋出平臺 arXiv 上。

論文連結:

https://arxiv.org/pdf/2108.01077.pdf

一、萬能指紋技術帶來靈感

由於其方便性,生物識別認證,特別是人臉識別認證,已日益成為主流,因此現在成為攻擊者的主要目標。

攻擊一般的計算機認證系統時,有破解者會採取字典式攻擊,通過連續嘗試多個輸入來嘗試通過認證系統。

而在現實世界的生物識別系統中,人們通常只能嘗試幾次輸入,然後系統就會鎖定。並且使用生物統計學進行的匹配並不精確,加之生物學統計資料的空間分佈不均勻,這表明可能少量樣本可以覆蓋更大的人口比例。

特拉維夫大學研究人員從“萬能指紋”研究中獲得了靈感,他們開發了一種“萬能人臉”,來繞過人臉識別軟體。

二、通過演算法分類對比,選出 9 張“萬能人臉”

研究人員首先使用人工智慧領域廣泛使用的生成模型 StyleGAN,來進行“萬能人臉”的製作。

▲“萬能人臉”訓練過程

然後研究人員然後使用演算法和神經網路來優化。有限記憶體矩陣自適應進化策略(LM-MA-ES)演算法是非常適合高維黑匣子優化的,但是還需要增加一個元件,來推斷哪些人臉是交叉身份認證的最佳候選選項。

所以,研究人員建立了一個“成功預測器(Success Predictor)”神經分類器,將大量候選人臉影象篩選出合適、可完成繞過人臉識別軟體任務的人臉影象。

▲“成功預測器”神經分類器原理

研究人員使用演算法和分類器將每一個系統輸出的虛假人臉都與 Labeled Faces in the Wild(LFW)資料庫中 5749 個不同人的真實照片進行比較,並給出平均集覆蓋率(Mean Set Coverage,MSC)分數,只保留分數高的虛假人臉影象。

其中對影象比較得到的分數會用於訓練進化演算法,幫助研究人員使用 StyleGAN,創建出越來越多看起來像資料集中真實存在的人臉影象。最終得到 9 張“萬能人臉”影象。

▲ 九張“萬能人臉”

三、能覆蓋超 40% 資料集

研究人員使用“萬能人臉”對三種不同的深度人臉識別系統:dlib、FaceNet、SphereFace 進行測試,因為這幾種人臉識別系統在 LFW 資料集中測試競賽的排名最高。

▲ 9 張生成的影象所覆蓋的資料集的百分比

研究人員實驗得到,9 張“萬能人臉”覆蓋了這三種人臉識別系統中 42%-64% 的資料集,也就是說 9 張“萬能人臉”可以通過這些人臉識別系統中 42%-64% 的身份驗證。

結語:人臉識別系統準確性備受關注

隨著人臉識別技術的普遍應用,除了涉及到隱私保護問題外,人臉識別的準確性同樣是人們熱議的話題。美國就有幾起因為人臉識別錯誤而錯誤發生逮捕的事件,引起了很大輿論反響。

特拉維夫大學研究人員其實給出了很好的思路,從如何破解人臉識別系統入手反推人臉識別系統漏洞,這樣可以更好地完善人臉識別系統。