隨著人工智能技術的普及，相關風險也在蔓延。安全負責人正面臨保護尚未完全理解的系統的挑戰，這構成了重大隱患。

帕拉丁全球研究所最新報告《AI技術棧：技術與網絡政策入門》系統剖析了AI系統的構建原理及主要安全風險分布。該報告為首席信息安全官（CISO）提供了在實際環境中保障AI安全的實踐思路。

簡明而強大的分層模型

報告將AI技術棧定義為五個相互依存但功能獨立的層級：

• 數據層：驅動AI系統的原始素材
• 模型層：處理數據的算法與機器學習模型
• 基礎設施層：運行模型的算力與硬件環境
• 應用層：連接AI與用戶及其他系統的接口
• 治理層：涵蓋整個技術棧的法律、倫理與安全框架

報告特別警告："單層風險可能引發系統性連鎖反應——被污染的訓練數據集會破壞模型，導致應用部署時出現不可預測行為，最終釀成具有公共影響的治理事故。"確保AI安全需要在整個技術棧嵌入防護措施，并理解各層級的協同機制。

優先防護數據與模型層

在資源有限的情況下，應優先保護可能造成最嚴重損害的數據層和模型層。報告明確指出："正確實施AI安全防護，數據層與模型層最為關鍵。"這兩層構成所有AI系統的基礎，同時也存在極高脆弱性。

攻擊者深諳此道。數據投毒、模型竊取、對抗性輸入和逆向攻擊等手段都能操縱AI行為或竊取敏感信息。單個被污染的輸入就可能扭曲模型輸出，甚至引發未授權訪問。由于AI模型通?；诖罅糠墙Y構化數據構建（部分涉及敏感信息），相關漏洞既難檢測更難修復。

報告建議采取以下基礎防護措施：

• 對訓練數據實施加密與訪問限制
• 采用數據脫敏與輸入凈化技術
• 通過強認證和防火墻保護模型端點

報告強調："通過加密、訪問控制和數據脫敏來保護數據層，對預防數據泄露、保護知識產權、維持用戶信任及確保法規遵從都至關重要。"

基礎設施與應用層：延伸現有防護

相比需要新策略的模型層和數據層，基礎設施層和應用層可采用更成熟的安全方案。多數CISO已具備云工作負載管理、API安全防護和企業系統最小權限管控經驗，這些實踐同樣適用于AI領域，但風險等級更高。

例如基礎設施層的GPU集群和專用AI芯片可能成為供應鏈攻擊或資源劫持的高價值目標。應用層則面臨提示詞注入（prompt injection）和API濫用等新型威脅，報告特別指出"提示詞注入、API利用"以及"不安全內容生成、數據泄露"等風險。

防護建議包括：

• 在接口層部署TLS加密
• 實施嚴格的基于角色的訪問控制
• 持續監控提示詞與API的濫用行為

治理層：尚待完善的關鍵環節

盡管技術棧其他層面側重技術實現，聚焦政策、倫理與監督的治理層成熟度最低，但CISO絕不能忽視其重要性。報告作者指出："治理層雖不成熟，卻是建立AI信任的基石，需要突破僵化監管，轉向動態協議開發。"

這包括界定可接受使用范圍、確保人工監督機制，以及應對AI做出未授權決策或生成有害內容等邊緣案例。報告倡導借鑒TLS和DNSSEC等早期互聯網安全標準的經驗，建立由行業主導的靈活規范（而非一刀切的監管）。CISO可通過制定內部治理協議發揮作用，特別是在開源模型和第三方AI工具使用方面。

構建系統級安全思維

報告的核心觀點之一是必須建立系統級安全觀。傳統網絡安全方案多圍繞終端、網絡或數據中心構建，但AI系統打破了這些邊界。

報告強調："組織需要制定精密的多層安全策略，針對性解決AI技術棧各層級的獨特漏洞。"這要求跨職能協作——數據團隊負責訓練管道、開發者掌控應用、IT部門管理基礎設施，若各自為政將導致AI風險管控出現盲區。CISO必須主導或至少協調覆蓋全技術棧的安全戰略。