鑒于復(fù)雜的網(wǎng)絡(luò)攻擊越來越多，網(wǎng)絡(luò)安全如今已成為微軟的首要問題。正因為如此，微軟也在不斷更新其安全基礎(chǔ)設(shè)施，以保護(hù)自己免受網(wǎng)絡(luò)安全的威脅。近日，微軟通過發(fā)布一個名為 Counterfit 的新工具來解決 AI 系統(tǒng)安全性的問題。

Counterfit 是微軟開發(fā)的一個開源工具，用于對企業(yè)或組織的人工智能系統(tǒng)進(jìn)行自動化的安全測試。鑒于人工智能系統(tǒng)在各行業(yè)中廣泛運用，其最終目標(biāo)是讓企業(yè)對其人工智能系統(tǒng)的穩(wěn)健性和可靠性有很高的信心。微軟指出，在它調(diào)查的 28 個企業(yè)/組織中，有 25 個認(rèn)為他們沒有正確的機(jī)制來保護(hù)人工智能系統(tǒng)，他們的安全專業(yè)人員也沒有很好地處理針對它們的威脅。

Counterfit 最初是一套可用于攻擊 AI 模型的腳本。微軟首先在自己的內(nèi)部測試中使用它，但現(xiàn)在，Counterfit 已經(jīng)發(fā)展成為一個自動化工具，可以大規(guī)模地攻擊多個 AI 模型。該公司表示，它已經(jīng)成為微軟的人工智能業(yè)務(wù)的主要工具，可以用它來執(zhí)行和自動化目前正在開發(fā)和生產(chǎn)的人工智能服務(wù)的對抗性安全測試。

使用 Counterfit 的好處是它與環(huán)境、模型和數(shù)據(jù)無關(guān)。這意味著，它可以在企業(yè)內(nèi)部、邊緣和云端使用，以測試任何類型的人工智能模型，這些模型依賴于幾乎任何形式的輸入數(shù)據(jù)，包括文本和圖像。

微軟表示，Counterfit 對于使用 Metasploit 或 PowerShell Empyre 的安全團(tuán)隊來說很容易使用。它可以用于滲透測試和漏洞掃描，它還可以記錄對人工智能模型的攻擊，因此數(shù)據(jù)科學(xué)家可以利用其遙測技術(shù)進(jìn)一步加強(qiáng)其人工智能系統(tǒng)的安全性。

你可以前往該開源項目的 GitHub 頁面：https://github.com/Azure/counterfit，了解更多關(guān)于 Counterfit 的信息以及如何在企業(yè)中部署它。