人工智慧的飛速發展正在將世界帶入一個全新的維度，但這同時也將網路世界的正邪對抗推入下一個戰場。

美國當地時間8月10日，由  GeekPwn 主辦的 CAAD Village 登陸世界頂級極客大會 DEF CON 。騰訊安全雲鼎實驗室在 CAAD Village 上帶來前沿議題分享，雲鼎實驗室安全專家張壯、史博以基於卷積神經網路的多形態惡意軟體檢測為例，分享了安全廠商應用人工智慧之後對抗病毒免殺技術的效果；同時還站在攻擊方的視角，介紹了惡意軟體使用了生成式對抗網路之後，可繞過應用機器學習檢測模型的案例。為人工智慧趨勢下的正邪對抗帶來全新思路，受到了與會專家的重點關注。

“檢測”與“免殺”不斷進化   AI 成下一個戰略高地

面對不斷湧現的新型病毒和已知病毒的變異，基於病毒程式碼檔案特徵的傳統檢測方法逐漸變得“捉襟見肘”。張壯對此表示，針對防毒軟體的查殺機制，病毒開發者通過修改特徵碼、指令加花、軟體加殼、修改 PE 檔案等手段使病毒免於防毒軟體的查殺。

此外，免殺技術也已從黑客的專業技能變成了一項可以用低廉價格輕易獲取的標準服務：在暗網只需370美金，在國內花費1800元就可獲得一套免殺服務。這無疑進一步加劇了安全廠商應對病毒攻擊的挑戰。

而人工智慧的快速發展，則讓安全廠商看到了未來。張壯指出，在面對新增病毒樣本數量巨大，無法有效通過手工及時新增規則、手動規則提取在有些問題中的不適性、人工規則主觀性很高等檢測難點，人工智慧查殺都能輕易克服。

全球各大安全廠商因此紛紛應用這一前沿科技，但具體的實現過程千差萬別，雲鼎實驗室在會上分享了自己的實踐，通過機器學習處理複雜問題，將二進位制病毒轉化為一[A1] 個灰度圖，利用深度學習中的卷積神經網路（Convolutional Neural Networks，簡稱CNN）來進行圖片分類，達到高效檢測新增樣本和樣本變種，識別出病毒的家族關係和不同家族之前的區別，發現更多更深層次的特徵關聯。

人工智慧查殺可以處理海量樣本，檢測特徵緯度更廣，病毒免殺難度增大。對於加殼或者多型變形病毒也有著良好的效果，檢測過程無需脫殼。但是張壯指出，人工智慧的模型本身存在一些“視覺盲點”，容易受到生成樣本的攻擊，更重要的是，人工智慧的相關技術同樣可以為病毒開發者所用。

毫無疑問，人工智慧介入後，防毒與反防毒的較量將進入到下一個回合。

GAN 應用免殺已獲驗證   安全廠商需未雨綢繆

今年3月，《麻省理工科技評論》公佈了2018年“全球十大突破性技術”，生成對抗網路（Generative Adversarial Networks，簡稱 GAN）赫然在列。GeekPwn曾對這種前沿的深度學習模型作出解讀：GAN 可以簡單理解為一位製造仿製品的名畫仿造者與一位名畫鑑定師，兩者在互相博弈的過程中訓練自己的技巧，讓各自的技能得到提升。最終，仿造者會生成鑑定師無法判斷的贗品。

《麻省理工科技評論》也表示，“它（GAN）給機器帶來一種類似想象力的能力，因此可能讓它們變得不再那麼依賴人類，但也把它們變成了一種能力驚人的數字造假工具”。

張壯在 DEF CON 2018大會上驗證了這一預言的真實性。他表示，通過 GAN 生成器和判別器相互對抗，可以提升病毒的偽裝能力，最終生成在防毒軟體判斷標準下的“非惡意程式”，使病毒成功繞過基於機器學習的檢測模型 。

比如，機器對一張圖片以57.7%的置信度將其歸為“熊貓”，但是在應用 GAN 之後，可以使其以99.3%的置信度將其歸為“長臂猿”；在被攻擊前後，影象一個畫素的改變，就讓機器識別一個影象為“青蛙”的概率從99.999714%變為7.460092%，而這前後的巨大差額轉化成為了89.782685%的概率識別成“貓咪”。

張壯進一步表示，GAN 應用在免殺中，攻擊者對於被攻擊模型的結構和權重都有完全的瞭解，而常規的攻擊手段對於被攻擊的模型卻一無所知，“最終通過把‘黑檔案’偽裝成為具有高可信度的‘白檔案’，以達到欺騙機器學習模型，甚至欺騙人類的目的”。

針對病毒免殺技術的新發展，張壯也給安全廠商提出瞭如下防禦建議：

1. 紅藍軍對抗式的自我檢測：安全廠商需要未雨綢繆，可提前自己攻擊自己的模型，發現自身模型“盲點”，並及時修復盲點，從而提升防禦能力；
2. 規則不暴露：安全廠商不要暴露對惡意檔案的評分情況 ，這樣模型（鑑定器）會直接受到針對特徵的攻擊，給出的評分會告訴攻擊者攻擊效果，對攻擊者下一步的攻擊方向具有指導作用，比如：哪些些特徵影響大，哪些特徵有效果；
3. 多維度檢測：提取更多有效、穩定的特徵，使得針對廣泛普遍的特徵生成的免殺樣本同樣難逃查殺。

未知攻焉知防，白帽黑客站在攻擊方的角度研究前沿技術，正在加速安全廠商掌握新時代攻防的主動性。以本次研究為例，騰訊安全雲鼎實驗室的研究成果已應用在攻防一線，進一步提升騰訊雲的雲主機病毒查殺能力，守護廣大使用者的網路安全。

騰訊安全雲鼎實驗室，關注雲主機與雲內流量的安全研究和安全運營。利用機器學習與大資料技術實時監控並分析各類風險資訊，幫助客戶抵禦高階可持續攻擊；聯合騰訊所有安全實驗室進行安全漏洞的研究，確保雲端計算平臺整體的安全性。相關能力通過騰訊雲開放出來，為使用者提供黑客入侵檢測和漏洞風險預警等服務，幫助企業解決伺服器安全問題。