3 月 11 日訊息，阿里安全專家釋出了一項新研究，只要用簡單的鐳射筆，就可以讓 AI 模型不再有效。在這個研究中，他們設計了一種演算法，可模擬光束對 AI 模型進行 “攻擊”，這種測試方法在現實世界中得到了驗證，且 “攻擊”極易操作，對現有基於 AI 的視覺系統更具威脅，例如基於 AI 視覺的自動駕駛。

當不同頻譜的光束打在同一個物體上，AI 可能將該物體識別錯誤，比如將停車標識識別成順利通行。

▲ 一束鐳射可能讓自動駕駛汽車對交通標識識別錯誤

“攻擊 AI 遠非需要人為去製造對抗樣本，一支簡單的鐳射筆就可以。我們想通過這個研究揭示 AI 模型一些之前沒有被探索過的‘錯誤’，從而‘強壯’AI，讓它未來能抵擋這種‘攻擊’，也讓相關從業者重視提高 AI 模型的安全性。”阿里安全圖靈實驗室負責人薛暉

除了以 “一束光”測試 AI 視覺的安全性，最近圖靈實驗室釋出了多項涉及 AI 安全的研究成果，比如多項文字識別與檢測、利用自監督建立視訊表徵學習方法與提升半監督行為檢測的演算法框架、AI 樣本對抗、偽造人臉檢測、AI 對人臉與人聲匹配的雙重模態識別、視訊描述 AI 生成技術等囊括 AI“視覺”“聽覺”“大腦”“免疫性”等多方研究，這 10 項涉及 AI 安全的新一代安全架構研究成果均被國際頂會 CVPR2021 收錄。

“在 AI 安全前沿技術上進行探索，一是為了讓 AI 更安全，二是為了讓 AI 助力安全，三是為解決具體社會問題尋找提效的新途徑。”薛暉說。

另外，薛暉還表示，安全部署要前置，無論是 AI 本身的安全，還是 AI 可以助力解決的安全問題與社會問題，這就是從源頭構築安全的核心理念。希望在廣闊的 AI 安全研究的新領域中，能有更多新生力量加入，迸發出有創造性和想象力的研究，最終應用到人們的生活中，真正服務大眾，解決難題。