https://mp.weixin.qq.com/s/7zWKHsnAsnkk7iBtdU2U1w

鑑於複雜的網路攻擊越來越多，網路安全如今已成為微軟的首要問題。正因為如此，微軟也在不斷更新其安全基礎設施，以保護自己免受網路安全的威脅。近日，微軟通過釋出一個名為 Counterfit 的新工具來解決 AI 系統安全性的問題。

Counterfit 是微軟開發的一個開源工具，用於對企業或組織的人工智慧系統進行自動化的安全測試。鑑於人工智慧系統在各行業中廣泛運用，其最終目標是讓企業對其人工智慧系統的穩健性和可靠性有很高的信心。微軟指出，在它調查的 28 個企業/組織中，有 25 個認為他們沒有正確的機制來保護人工智慧系統，他們的安全專業人員也沒有很好地處理針對它們的威脅。

Counterfit 最初是一套可用於攻擊 AI 模型的指令碼。微軟首先在自己的內部測試中使用它，但現在，Counterfit 已經發展成為一個自動化工具，可以大規模地攻擊多個 AI 模型。該公司表示，它已經成為微軟的人工智慧業務的主要工具，可以用它來執行和自動化目前正在開發和生產的人工智慧服務的對抗性安全測試。

使用 Counterfit 的好處是它與環境、模型和資料無關。這意味著，它可以在企業內部、邊緣和雲端使用，以測試任何型別的人工智慧模型，這些模型依賴於幾乎任何形式的輸入資料，包括文字和影象。

微軟表示，Counterfit 對於使用 Metasploit 或 PowerShell Empyre 的安全團隊來說很容易使用。它可以用於滲透測試和漏洞掃描，它還可以記錄對人工智慧模型的攻擊，因此資料科學家可以利用其遙測技術進一步加強其人工智慧系統的安全性。

你可以前往該開源專案的GitHub 頁面：https://github.com/Azure/counterfit，瞭解更多關於 Counterfit 的資訊以及如何在企業中部署它。