今年在舊金山舉行的RSAC大會上有一個熱門話題：人工智能工具。生成式人工智能在網(wǎng)絡(luò)安全工具中的潛力引發(fā)了網(wǎng)絡(luò)安全專業(yè)人士的興趣。但是人們對人工智能在網(wǎng)絡(luò)安全中的實際應(yīng)用，以及用于建立人工智能模型的數(shù)據(jù)的可靠性提出了質(zhì)疑。

網(wǎng)絡(luò)安全戰(zhàn)略顧問、GoogleCloud和Cyversity的董事會成員M.K. Palmore在采訪中表示：我們目前正處于與人工智能交手的第一局，我們還不知道人工智能對網(wǎng)絡(luò)安全行業(yè)的影響會有多大，也不知道我們最終能看到什么結(jié)果。但我們心存希望，整個公司目前也正朝著一個方向努力，這也表明我們看到了人工智能對行業(yè)產(chǎn)生積極影響的價值和用途。

不過Palmore也承認，目前我們在人工智能的發(fā)展方面確實還有更多的事情要做。他認為隨著事物的變化發(fā)展，我們都必須轉(zhuǎn)向適應(yīng)這種新的模式，讓這些大型語言模型(llm)和人工智能可供我們使用。Presidio首席信息安全官Dan Lohrmann認為，人工智能在網(wǎng)絡(luò)安全領(lǐng)域還處于早期階段。在RSAC大會上提及人工智能工具的話題時，他認為這將是一場變革，人工智能將改變很大一部分產(chǎn)品。這可能會改變進攻方和防守方，就像我們?nèi)绾谓M建紅隊和藍隊那樣。

此外他還指出，在精簡安全團隊使用的工具方面，還有很長的路要走。他說:“我認為我們永遠無法實現(xiàn)單一的窗格的資源監(jiān)控和管理，但目前已經(jīng)是我見過最精簡的程度了。

將AI添加到安全工具

在2023年RSAC大會期間，不少公司都講述了他們是如何在安全工具中使用生成性人工智能的，例如，谷歌推出了其生成式人工智能工具和安全LLM、Sec-PaLM。Sec-PaLM是基于Mandiant在漏洞、惡意軟件、威脅指標和行為威脅參與者概況方面的前沿情報而構(gòu)建的。

谷歌Cloud的用戶體驗總監(jiān)斯蒂芬?海(stephen Hay)表示，LLMs現(xiàn)在達到了一個臨界點，它可以以一種以前無法做到的方式將信息語境化。這代表我們現(xiàn)在有了真正的生成式人工智能。

與此同時，亞馬遜網(wǎng)絡(luò)服務(wù)(Amazon Web Services)首席信息安全官辦公室主任Mark Ryland強調(diào)了如何用生成式人工智能檢測威脅活動。日常中多關(guān)注有意義的數(shù)據(jù)，盡量減少誤報。且唯一能有效做到這一點的方法就是多多訓(xùn)練機器學(xué)習(xí)，這也是我們安全服務(wù)的核心。

該公司最近宣布了一種名為Amazon Bedrock的新工具，用于在AWS上進行構(gòu)建，其中包含了生成式人工智能。Amazon Bedrock是一項新服務(wù)，可以通過API訪問來自AI21 Labs、Anthropic、Stability AI和Amazon的基礎(chǔ)模型(fm)。此外，Tenable還推出了專門為研究界設(shè)計的生成式人工智能安全工具。另外，一份名為《生成式人工智能如何改變安全研究》的報告最近也發(fā)布了，該報告探討了LLMs如何在逆向工程、調(diào)試代碼、提高web應(yīng)用程序安全性和云工具可見性等研究領(lǐng)域降低復(fù)雜性和提高效率。

該報告指出，ChatGPT正在以“驚人的速度”發(fā)展。關(guān)于網(wǎng)絡(luò)安全平臺中的人工智能工具，Tenable首席安全官Bob Huber表示，這些工具允許你建立一個數(shù)據(jù)庫，例如，如果你正在尋找滲透測試，目標是X，可能存在哪些漏洞，通常這是一個手動過程，你必須進入并進行搜索，但人工智能可以幫助你更快地獲取這些東西。

另外，他補充說目前已經(jīng)看到一些公司開始使用LLMs。同時他也指出，LLMs所基于的數(shù)據(jù)并不一定是經(jīng)過驗證的或準確的，因此需要對此設(shè)置護欄。因此用自己的數(shù)據(jù)構(gòu)建的LLMs，更值得信賴。

有人擔心與GPT這樣的LLMs掛鉤可能會影響安全性。作為安全從業(yè)者，了解風險是很重要的。但Huber指出，人們目前還沒有足夠的時間去了解生成式人工智能的風險。這些工具都旨在簡化防御者的工作，但黑莓威脅研究與情報副總裁伊斯梅爾·巴倫蘇埃拉指出了生成式人工智能的局限性。

和其他任何工具一樣，我們作為防御者會使用，其他攻擊者也會使用它。所以說這些生成式人工智能工具的最佳使用方式就是將其作為助手來使用。很明顯，它的確可以促進我們的發(fā)展。但如果是期望它能徹底改變一切，那答案是否定的。