北郵鄧偉洪:AI 就像 20 年前的網際網路,應用走在了規範的前面
“當一個技術應用越來越廣泛的時候,安全性肯定也會越來越嚴重,這是所有技術的問題,人臉識別也是如此。”近日,在搜狐科技主辦的《中國創新公司 100》第三期沙龍上,北京郵電大學人工智慧學院教授鄧偉洪在談到人臉識別的安全問題時說到。
他認為,當一個技術無處不在的時候,帶來便利的時候同時也會帶來安全問題,人臉識別在發展過程中暴露的各種安全問題是技術發展的必然。
“網際網路改變了我們的生活,但帶來很多安全問題,而且安全問題無處不在。是不是大家都不用網際網路?不可能,對我們改變太大了。”鄧偉洪認為,現在的人工智慧有點像二十年前的網際網路剛出現的時候,它將要改變我們的生活,但總有人會擔憂,會不適應它的到來。
鄧偉洪表示,人臉識別的應用可以給我們帶來很多益處,可以讓我們的生活變得很方便,例如高頻使用的手機解鎖和小額支付,省去了頻繁輸密碼的繁瑣和風險;很多遠端的身份認證也可以通過人臉完成,節約了人們大量現場排隊和辦理業務的時間。還有很多 AI 公司主要營收就來源於銀行,側面說明人臉識別技術確實提升了銀行業的效率。
其次,很多行為會變得更安全,比如銀行密碼再加上人臉,會變得比原來更安全。第三,在一些重大應用上發揮作用,比如追捕逃犯,最近逃亡二十多年、期間不斷整容的殺人犯勞榮枝就是被人臉識別認出落網的。這不僅是正義的伸張,更是對違法犯罪份子的震懾。
他還提到,人臉識別不僅僅是識別身份這麼簡單,從科研角度還可以做很多事情,比如做很多罕見病的篩查,自閉症兒童的篩查和早期干預,可以帶來很大的社會效益。
為什麼人臉識別在短短的幾年內就迅速滲透到我們的日常工作生活當中?鄧偉洪分析稱,這首先是技術上的效能突破,2014 年人臉識別引入深度學習,大資料驅動學習演算法使得機器對圖片的識別率超過人眼。同時,感測器很普及,幾乎所有的裝置都有攝像頭,且人臉識別完全無接觸的特性,使得其應用起來很方便,普及起來很快。
在沙龍中,他還解釋了日常生活中使用人臉識別時候的一些“迷思”,比如為什麼要左右搖頭、上下點頭,或者是張嘴、眨眼睛等。鄧偉洪表示,這是為了更好的保障安全,保證出現在鏡頭前的是真人,而不是人臉照片、顯示屏或面具。現在個人資訊洩露嚴重,使用者照片和視訊很容易獲得,這種活體檢測在遠端身份核驗是必須進行的。
在生活中,大家可能也會有這樣的經歷,在機場過安檢時,人臉識別出現失敗。對此,他解釋稱,這種屬於高安全性需求的人證比對,現場人臉必須跟證件照高度相似才能通過。這也是易用性和安全性的折中,如果為了使用者的易用性而降低相似度的要求,很容易被長相相似的人冒用,帶來很多隱患。
他表示,目前靜態識別的技術難點並不太多,主要難點在於安防應用,比如說用來尋找被拐賣了二三十年的小孩,不可能每個人都去驗 DNA,太麻煩,而且成本很高。此外,長得特別像的,比如雙胞胎的識別,以及模糊和遮擋人臉的識別,跨姿態識別,公平性的識別,保證不同膚色的人種具有公平的準確率,這些都是目前人臉識別的技術侷限性或難點,但科研上已經取得很大進展,相信很快能夠得到解決。
不過,鄧偉洪還認為,目前包括人臉識別在內的人工智慧的發展缺少監管。“所有藥物都有副作用,但因為有藥監局保證藥利大於弊,所以我們生病時會放心使用藥物。現在我們就需要一個類似的技術監管機構,來使得人們更加信任人工智慧。”
鄧偉洪表示,新生事物都會帶來很多新的問題,包括資本為所欲為,濫用個人資訊等,現在應用走在了規範的前面,導致亂象出現。但技術進步的趨勢不可阻擋,關鍵是制定一套完善的法規並嚴格執行,讓技術更好地服務大眾。這需要通過法律和技術兩重手段去規範,國家層面需要立法去規範人臉識別的發展,規範使用這個技術的人。
“我相信技術是中立的,如果規定和執行做得好的話,人們一定會更多地感受到技術的正面效益。”鄧偉洪說,在規範出臺之後,也可以在科研上通過技術手段去限制一些不法行為,去輔助補充法律。
他介紹,從技術角度,有很多方法可以保障人臉識別發展過程的資料安全和隱私問題,比如發展隱私計算和聯邦學習,可以讓資料不離開我們的手機;還有資料脫敏技術,通過脫敏的資訊無法識別出具體的人,以及同態加密技術,可以用加密特徵完成識別,加密的資料如果被人拿走是沒有用的。
此外,還有一些最新的隱私技術,比如鄧偉洪領導的實驗室團隊正在研究的一種水印技術,可以保證照片和視訊不被機器識別出來。如果被不法企業盜用,水印影象可以對人工智慧系統隱身,甚至起到破壞系統性能的作用。“我覺得對保護隱私和安全很有意義,現在有很大的研究力量投入在做。”
“當然,這些都會帶來一些成本的提高,沒有強制性手段,企業肯定會追逐低成本,因此可能也需要法律強制企業去做這方面的投入。”鄧偉洪說。