人工智能技術作為一種顛覆性的“力量”，助力企業能夠創造出更新的、無與倫比的數字體驗。然而，實施人工智能的實際情況卻異常復雜，如果沒有正確、安全的方法，就會大大增加企業的風險態勢。目前，許多企業急于利用人工智能，卻忽視了自身需要堅實基礎的必要性，這種疏忽不僅會降低人工智能解決方案的有效性，還會使其面臨多種安全威脅。

企業對生成式人工智能充滿“熱情”

在企業構建新的堆棧以支持不斷擴大的人工智能驅動的數字服務時，必須時刻強調企業在基礎設施、數據、模型、應用服務和應用層所面臨的挑戰，這些挑戰是企業想要廣泛、可擴展以及長久采用人工智能所必須克服的。

同時，研究表明企業對生成式人工智能技術是否會助力企業業務發展，非常樂觀，充滿熱情，很多受訪者將生成式人工智能技術評為 2024 年最令人興奮的技術趨勢。但非常有意思的是，只有 24% 的企業表示已經大規模實施了生成式人工智能。

目前，生成式人工智能技術的應用呈上升趨勢，但最常見的用例往往不具備“戰略”功能。很多受訪者表示，其公司內部已經部署的最常見用例包括協同機器人和其他員工生產力工具（40% 的受訪者正在使用）以及聊天機器人等客戶服務工具（36%）。

數據”成熟度“是實施人工智能面臨的巨大挑戰

調查過程中，企業領導者研究大規模部署基于人工智能的應用所面臨的挑戰時，著重提到了在基礎設施層遇到的三個主要問題：

• 62% 的人認為計算成本是擴展人工智能的主要問題：
• 57% 的人認為模型安全性是主要問題，為解決這一問題，企業領導者預計，隨著部署規模的擴大，未來幾年在安全方面的支出將增加 44% ：
• 55% 的受訪者認為模型各方面的性能是一個問題。

在數據層，數據成熟度是影響人工智能廣泛實施的一個更為直接和潛在的巨大挑戰。其中，72% 的受訪者認為數據質量和無法擴展數據實踐是擴展人工智能的最大障礙，53% 的受訪者認為缺乏人工智能和數據技能是主要障礙。

值得一提的是，盡管 53% 的企業表示他們已制定了明確的數據戰略，但超過 77% 的受訪企業表示他們缺乏數據的單一真實來源。

人工智能驅動的攻擊、數據隱私、數據泄露等因素都是人工智能安全的首要問題，網絡安全一直是人工智能技術服務提供商的主要擔憂。當問及計劃如何抵御人工智能技術帶來的威脅，以確保人工智能實施的安全時，受訪者將重點主要放在應用程序接口安全、監控、DDoS 保護等應用程序服務上。

42% 的受訪者表示，公司內部正在使用或計劃使用 API 安全解決方案來保護數據在人工智能訓練模型中的安全，41% 的受訪者正在使用或計劃使用監控工具來了解人工智能應用程序的使用情況，39% 的受訪者正在使用或計劃使用 DDoS 保護來保護人工智能模型。

參考文章：https://www.helpnetsecurity.com/2024/06/18/ai-widespread-implementation-challenge/