如何化解生成式AI帶來的安全風險?Akamai給出答案
現如今,各行各業都在探索如何利用創新技術加速產業升級,最直接的方式之一就是上云。
對于絕大部分企業而言,將業務遷移到云端所帶來的優勢是顯而易見的。一方面,云計算具有按需自助服務、寬帶網絡訪問、快速伸縮性等特點,使企業可以根據自身需求靈活調整和利用計算資源,能夠高效地運營業務,從而快速應對市場環境的不斷變化;另一方面,通過云計算的高效計算和存儲能力,結合大數據、5G、物聯網等數字技術,將發揮疊加效應,為企業帶來更多的商業機遇和競爭優勢,促進產業的快速發展和進步。
不過,隨著企業上云用云進程的加快,安全問題開始變得日益突出。特別是隨著生成式AI的出現,并被迅速應用于諸多領域,表現出令人矚目的成效和能力的同時,也給云安全帶來了新的挑戰。
日前,比特網采訪到Akamai執行副總裁兼首席技術官Robert?Blumofe博士,主要圍繞生成式AI對網絡安全的影響,進行了深入預測。
Akamai執行副總裁兼首席技術官?Robert?Blumofe博士
云安全面臨的挑戰
近年來,生成式AI技術取得突破式發展,無論是DALL-E的圖像生成能力,還是ChatGPT的自然語言處理技能,生成式AI的潛力正在被逐漸發掘,并吸引著眾多企業紛紛入局。
Blumofe指出,在采用新技術方面,亞太地區往往走在世界的前列,而生成式?AI?也不例外。據IDC公布的數據顯示,在采用生成式AI技術方面,亞太地區走在世界的前列,三分之二的公司已經在生成式AI領域進行投資或者在探索潛在的應用場景。
然而,與任何技術一樣,總會有人試圖利用它來達到惡意目的。生成式AI作為一種人工智能技術,利用機器學習模型和深度學習技術,通過研究歷史數據的模式來生成文本、圖像、音頻、視頻等內容。但與此同時,生成式AI還可以生成逼真且令人信服的虛假內容,如假新聞、假圖片和假視頻等,這些深度偽造內容往往難以辨別真偽,容易被誤傳和誤導,對社會和個人造成不良影響。
也正因為如此,社會工程攻擊將成為網絡犯罪分子的首選武器。以前,社會工程攻擊需要付出大量努力,不但需要對受害者進行廣泛深入的研究,且需要花費大量時間精心偽造令人信服的虛假信息,現在有了生成式AI技術,所有這一切都發生了改變。
通過生成式AI技術,網絡犯罪分子實現了社會工程攻擊研究的自動化,并生成令人信服的深度偽造,這意味著網絡犯罪分子可以更容易地獲取受害者的信任,實施大規模、高收益的社會工程攻擊。這可能導致云服務提供商和用戶的敏感信息泄露、數據損壞或服務中斷等問題,對云安全造成嚴重影響。因此,云安全領域需要采取相應的防御措施,加強用戶教育,提高對深度偽造內容的辨識能力,以及采用先進的威脅檢測和防護技術來應對社會工程攻擊帶來的安全挑戰。
如何做好網絡安全防范措施?
面對這種嚴峻的安全形勢,企業該如何應對呢?
對此,Blumofe表示,應從培訓AI素養、打造零信任環境、避免盲目追求AI技術三方面入手,應對生成式AI帶來的安全挑戰,具體來看:
在培訓AI素養方面,隨著生成式?AI?工具的應用變得越來越普及,人們將更加難以辨別是非真假,各企業需要對?AI?素養進行投資,以維持客戶信任。
AI素養作為一種綜合素質,不僅包括AI相關的知識和判斷能力,還包括與AI技術使用相關的態度和倫理等。可以說,AI素養的提升無疑將有助于人們更好地適應和利用AI技術帶來的變革和機會,同時維護互聯網的健康發展和社會的福祉。
“亞太地區有機會在應對AI帶來的真假難辨挑戰方面發揮先導作用,同時確保深度偽造不會損害合法企業并幫助每個人能夠區分事實與虛構內容。”Blumofe說道。
在打造零信任環境方面,目前,亞太地區及日本已經開始采取行動,出臺了更嚴格的法規來保護個人身份信息并避免數據泄露。這些法規不僅加大了對違法行為的處罰力度,還要求企業采取更加有效的安全措施來保護用戶數據。
為了滿足法規要求并抵御社會工程攻擊,許多企業開始對Zero?Trust架構進行投資。這種架構的核心思想是“永不信任,始終驗證”,強調對所有用戶和設備的持續性驗證,而不是僅僅依靠一次性的身份驗證,即便是某個員工無意中成為社會工程攻擊的受害者,也能確保企業關鍵資產的安全。
實際上,在Zero?Trust架構中,微分段技術扮演了關鍵角色。它可以將網絡劃分為多個小段,每個小段都有自己的安全策略和訪問控制,即使攻擊者成功侵入網絡,他們的活動范圍也會被限制在一個小段內,這大大提高了系統的安全性,降低了社會工程攻擊成功的可能性。
在優化安全基礎保護措施方面,隨著生成式AI技術的快速發展,網絡犯罪分子也開始利用這些工具來推進其惡意目標,這讓企業安全面臨全新的挑戰。因此,企業必須時刻保持警惕,確保自身的資產得到充分保護。
盡管AI,尤其是深度學習在解決安全挑戰上占有一席之地,有些初創公司也宣稱已經使用生成式AI來制造確保安全的“靈丹妙藥”,但實際是,完善的安全基礎防護措施仍然是保護企業資產免受已知和未知威脅侵擾的最佳方式,這包括身份驗證、監測能力、Zero?Trust訪問策略和微分段等。
總的來說,雖然AI技術在企業安全中發揮著重要作用,但企業不應該盲目追求AI技術,而應該優先考慮基礎的安全保護措施,應對日益嚴峻的網絡安全威脅。
根據Akamai近期發布的“A?Year?in?Review”SOTI報告分析,盡管面臨種種網絡安全挑戰,用戶仍可以通過遵循網絡和運營協調的兩項最佳實踐來提高保護自身的有效性,從而使?Akamai?能夠作為其網絡團隊的延伸。
首先,企業應該在安全時期與?SOCC?合作,主動建立防御態勢,而不是在攻擊期間才嘗試這樣做。這樣可以預先緩解攻擊,而不會對生產產生影響,并且客戶將收到詳細說明所避免的攻擊的后續報告。
其次,企業應該積極致力于運營準備和備份計劃。例如,企業應該確保知道在測試期間如何進出不同的平臺。由于運營問題,五分鐘的攻擊可能會對用戶造成巨大的損失,因此做好運營準備與應對純粹的網絡問題同樣重要。
寫在最后:
每一項重大的技術進步,都會引發雙重用途的困境。隨著生成式AI技術的快速發展,對企業的云安全能力提出了更高的要求。企業應時刻保持警惕,持續提升自身的網絡安全防護能力,以確保業務的穩健運行和持續發展。