針對使用人工智能 (AI) 和機器學習 (ML) 的安全軟件的數據中毒可能是下一個重大的網絡安全風險。根據SANS 技術研究所研究主任 Johannes Ullrich在RSA 2021 的主題演講中，這是一個大家都應該關注的威脅。

Ullrich 在 RSA 說“在機器學習方面，最基本的威脅之一是攻擊者實際上能夠影響我們用來訓練模型的樣本”

隨著這種新威脅的迅速出現，防御者必須學習如何發現數據中毒攻擊以及如何預防它們。否則，將根據錯誤數據做出業務和網絡安全決策。

什么是數據中毒?

當攻擊者篡改用于訓練 AI 模型的數據時，實際上會“中毒”。因為人工智能依賴于這些數據來學習如何做出準確的預測，所以算法生成的預測將是不正確的。

威脅行為者現在正在以可用于網絡攻擊的方式處理數據。例如，他們可以通過更改推薦引擎的數據來做很多事情。從那里，他們可以讓某人下載惡意軟件應用程序或單擊受感染的鏈接。

數據中毒是如此危險，因為它使用人工智能來對付我們。我們越來越相信人工智能對我們個人生活和工作的許多方面的預測。從幫助我們選擇要觀看的電影到告訴我們哪些客戶可能會取消他們的服務，它無所不能。

隨著 COVID-19 的數字化轉型加速，人工智能變得更加普遍。數字交易和連接是常態而不是例外。

數據中毒和網絡安全工具

威脅行為者也在使用數據中毒來滲透防御者用來發現威脅的工具。首先，他們可以更改數據或添加數據以生成不正確的分類。此外，攻擊者還利用數據中毒來生成后門。

對 AI 工具的數據中毒攻擊的增加意味著企業和機構可能會猶豫轉向這些工具。它還使防御者知道要信任哪些數據變得更具挑戰性。

在主題演講中，Ullrich 表示，解決方案首先要全面了解 AI 網絡安全工具使用的模型。如果您不了解是什么保護了您的數據，則很難判斷這些技術和工具是否準確。

識別數據中毒攻擊

發現數據中毒攻擊具有挑戰性且耗時。所以，受害者往往發現，當他們發現問題時，損害已經很大了。

此外，他們不知道哪些數據是真實的，哪些數據被操縱過。數據中毒攻擊通常是內部工作，并且以非常緩慢的速度進行。兩者都使數據中的更改容易遺漏。

在 RSA 會議“規避、中毒、提取和推理：防御和評估的工具”期間，IBM 研究院的 Abigail Goldsteen 建議網絡安全專業人士使用Adversarial Robustness 360 Toolbox (ART)來識別、阻止和預防數據中毒攻擊。這個開源工具包可以讓開發者快速創建、分析和攻擊，然后快速為機器學習模型選擇正確的防御方法。

使用我們擁有的工具

那么，你不應該使用人工智能嗎?在這一點上，完全放棄它是不切實際的。這樣做將導致威脅行為者簡單地使用AI 和 ML來創建我們無法防御的攻擊。

相反，作為捍衛者不能盲目相信擁有的工具和數據。應更加了解算法的工作原理并定期檢查異常數據將有助于我們提前防范攻擊。