英國國家網絡安全中心(NCSC)發布了新的指導方針，可以幫助AI系統的開發者和提供商“建立按預期運行的AI系統，在需要時可用，并且在不向未經授權的各方泄露敏感數據的情況下工作。”

如何將網絡安全置于AI系統的核心

安全AI系統開發指南涵蓋了ML應用程序開發生命周期的四個關鍵階段。

安全設計取決于所有相關人員 - 系統所有者、開發人員和用戶 - 意識到AI系統面臨的獨特安全風險，并被教導如何避免這些風險。

指導方針指出：“對系統的威脅進行建模，并從安全、功能和性能的角度設計系統。”此外，開發人員在選擇他們的AI模型時應該考慮安全好處和權衡(越復雜并不總是更好)。

安全發展的前提是確保供應鏈安全;保護資產(模型、數據、提示、軟件、日志等);記錄模型、數據集和元或系統提示;以及管理技術債務。

安全部署需要安全的基礎設施(在系統生命周期的每個部分)，并持續保護模式和數據不受直接和間接訪問。為了應對(不可避免的)安全事件，必須制定全面的事件響應、升級和補救計劃。

AI應該負責任地發布，即只有在其安全性經過徹底評估(并且用戶已經評估了限制或潛在故障模式)之后才能發布。

理想情況下，最安全的設置將作為唯一選項集成到系統中。當需要進行配置時，默認選項應該針對常見威脅大體上是安全的(即默認情況下是安全的)。你應用控制措施以防止以惡意方式使用或部署你的系統。

最后，為了確保安全運行和維護，敦促運營商監控其系統的行為和輸入，在默認情況下開啟自動更新，并保持透明和響應能力，特別是在出現故障(例如漏洞)時。

AI網絡安全指南是面向誰的?

這些指導方針是在美國網絡安全和基礎設施安全局(CISA)和來自世界各地的類似機構和CERT以及行業專家的幫助下起草的。

“由英國牽頭的新準則是第一個在全球范圍內達成一致的準則，他們將幫助使用AI的任何系統的開發人員在開發過程的每個階段做出知情的網絡安全決策——無論這些系統是從頭開始創建的，還是建立在其他人提供的工具和服務之上的，“英國國家網絡安全中心指出。

“[指導方針]主要面向AI系統的提供商，無論是基于組織托管的模型還是使用外部應用程序編程接口。然而，我們敦促所有利益攸關方(包括數據科學家、開發人員、經理、決策者和風險所有者)閱讀這些指南，以幫助他們就其機器學習AI系統的設計、部署和運營做出明智的決定。

在發布這些指導方針之前，美國總統拜登發布了一項行政命令，旨在啟動旨在保護美國人免受AI系統潛在風險(欺詐、隱私威脅、歧視和其他濫用)的行動。