7 月 31 日訊息，據外媒 Tech Xplore 報道，康奈爾大學的研究人員發現惡意程式碼很容易隱藏在 AI 的神經網路系統中，並且人們難以察覺。

研究團隊嘗試將惡意程式碼嵌入到一個名為“AlexNet”AI 的神經網路系統中，隨後他們發現不僅常見的防毒軟體無法發現惡意程式碼件的存在，而且 AI 被惡意程式碼感染之後，執行狀態也不會發生變化，人們也更難以察覺系統中存在惡意程式碼。因此，如果不法分子利用這樣的方式入侵 AI 中，將會很容易盜竊系統裡的重要資料。

研究人員表示，在此次實驗中，他們將惡意程式碼新增到神經網路系統中最容易入侵的注入層（injection）。此外，他們選擇的是已經訓練過的 AI 系統

研究人員指出，如果簡單地向 AI 新增一段惡意程式碼，AI 模型並不會受到傷害，因為無論誰將程式碼插入到 AI 模型中，都需要找到該程式碼的執行方式。但如果將惡意程式碼入侵到 AI 的神經網路系統中，惡意程式碼會模仿神經網路的結構運作，悄無聲息地“融入”到 AI 的神經網路系統中。

他們表示，現在人們注意到黑客可以將惡意程式碼隱藏在 AI 的神經網路系統中後，可以設計出更加全面的防病毒軟體，以免使用者損失。

結語：AI 時代，技術與安全應並行

康奈爾大學的研究人員發現，惡意程式碼入侵 AI 的神經網路系統後，能在無聲無息中對使用者的資料安全以及財產造成較大的威脅。

隨著 AI 技術快速發展，AI 已經逐漸滲入日常生活的各個角落中，但我們也需要關注 AI 技術背後的安全漏洞，因為這些安全漏洞可能會成為威脅到國家安全的“武器”。近期，俄羅斯黑客組織 REvil 在 9 個月內入侵了近 180 家公司，300 家組織，甚至讓美國部分能源公司全面癱瘓。

因此，面對 AI 時代的快速發展，AI 時代的安全是不可避免的重要話題，技術應與安全並行。

來源：Tech Xplore