一種名為ChatGPT的語(yǔ)言生成AI模型免費(fèi)提供，已經(jīng)風(fēng)靡互聯(lián)網(wǎng)。雖然人工智能有可能幫助IT和安全團(tuán)隊(duì)提高效率，但它也使威脅行為者能夠開(kāi)發(fā)惡意軟件。

在接受 Help Net Security 采訪時(shí)，Ivanti 首席安全官 Daniel Spicer 談到了這項(xiàng)技術(shù)對(duì)網(wǎng)絡(luò)安全的意義。

關(guān)于人工智能在網(wǎng)絡(luò)安全中的應(yīng)用，有哪些理由值得關(guān)注？

科技行業(yè)一直專(zhuān)注于創(chuàng)建生成人工智能，該人工智能響應(yīng)命令或查詢(xún)以生成文本、視頻或音頻內(nèi)容。這種類(lèi)型的人工智能無(wú)法分析和情境化數(shù)據(jù)和信息以提供理解。

目前，生成式人工智能的價(jià)值，如ChatGPT和DALL-E，是偏向于威脅行為者的。生成式 AI 為您提供您所要求的內(nèi)容——這在制作網(wǎng)絡(luò)釣魚(yú)電子郵件時(shí)很有用。信息安全需要人工智能，它可以獲取信息，通過(guò)額外的上下文增強(qiáng)信息，并根據(jù)其理解得出結(jié)論。

這就是為什么生成式 AI 解決的用例對(duì)威脅參與者極具吸引力的原因。關(guān)于威脅行為者應(yīng)用人工智能的一個(gè)明顯擔(dān)憂(yōu)與社會(huì)工程有關(guān)。人工智能可以毫不費(fèi)力地創(chuàng)建大量復(fù)雜的網(wǎng)絡(luò)釣魚(yú)電子郵件。它還可以創(chuàng)建非常逼真的虛假配置文件。即使是以前被認(rèn)為合理無(wú)機(jī)器人的地方，如LinkedIn，現(xiàn)在也有令人信服的個(gè)人資料，甚至包括個(gè)人資料圖片。我們才剛剛開(kāi)始看到影響。

我們還已經(jīng)看到威脅行為者正在使用 ChatGPT 來(lái)開(kāi)發(fā)惡意軟件。雖然 ChatGPT 的代碼編寫(xiě)能力的質(zhì)量結(jié)果好壞參半，但專(zhuān)門(mén)從事代碼開(kāi)發(fā)的生成式 AI 可以加速惡意軟件的開(kāi)發(fā)。最終，我們將看到它有助于更快地利用漏洞 - 在漏洞披露后的幾個(gè)小時(shí)內(nèi)，而不是幾天。

另一方面，人工智能有可能幫助IT和安全團(tuán)隊(duì)變得更加高效和有效，實(shí)現(xiàn)自動(dòng)和/或半自動(dòng)漏洞檢測(cè)和修復(fù)以及基于風(fēng)險(xiǎn)的優(yōu)先級(jí)。這使得可以分析數(shù)據(jù)的人工智能對(duì)于面臨資源限制的IT和安全團(tuán)隊(duì)來(lái)說(shuō)非常有前途，但不幸的是，這種類(lèi)型的工具尚不存在，當(dāng)它存在時(shí)，由于需要培訓(xùn)才能理解特定環(huán)境中的“正常”，因此實(shí)施起來(lái)可能很復(fù)雜。

該行業(yè)現(xiàn)在需要將注意力轉(zhuǎn)向構(gòu)建人工智能，以幫助防御者分析和解釋大量數(shù)據(jù)。在我們看到人工智能工具能夠理解的巨大改進(jìn)之前，攻擊者將繼續(xù)擁有優(yōu)勢(shì)，因?yàn)榻裉斓墓ぞ邼M(mǎn)足他們的要求。

ChatGPT 已實(shí)施檢查以防止惡意使用。這些檢查是否足以阻止網(wǎng)絡(luò)犯罪分子？

一句話(huà)，沒(méi)有。到目前為止，ChatGPT實(shí)施的檢查是無(wú)效的。例如，研究人員發(fā)現(xiàn)，您向 ChatGPT 提問(wèn)的方式會(huì)顯著改變其響應(yīng)，包括拒絕惡意請(qǐng)求的有效性。根據(jù)您為生成AI工具提供的命令，可以將惡意軟件攻擊的所有步驟拼湊在一起。這種情況的一個(gè)好處是 ChatGPT 目前沒(méi)有寫(xiě)出好的代碼——但這種情況會(huì)改變。

ChatGPT 的部署應(yīng)該被視為一個(gè)大型的演示體驗(yàn)。這是他們的測(cè)試版發(fā)布。生成式人工智能將繼續(xù)變得更好——它已經(jīng)降低了網(wǎng)絡(luò)釣魚(yú)攻擊的門(mén)檻——未來(lái)我們將擁有能夠開(kāi)發(fā)惡意軟件的更好版本的技術(shù)。

這將改變惡意軟件開(kāi)發(fā)人員和AV / EDR供應(yīng)商之間的軍備競(jìng)賽，因?yàn)橐源a為中心的AI可以操縱代碼來(lái)改變?cè)O(shè)計(jì)，而不是傳統(tǒng)的打包服務(wù)。

我們不能把精靈放回瓶子里。威脅行為者在其攻擊武器庫(kù)中使用生成式人工智能是必然的，現(xiàn)在我們需要專(zhuān)注于如何防御這種新威脅。

ChatGPT 會(huì)被沒(méi)有技術(shù)知識(shí)的攻擊者濫用嗎？

可以肯定的是，ChatGPT 將大大降低威脅參與者基于技能的進(jìn)入成本。目前，威脅的復(fù)雜性或多或少與威脅行為者的復(fù)雜性有關(guān)，但ChatGPT 已經(jīng)將惡意軟件空間開(kāi)放到一個(gè)全新的新手威脅參與者水平，他們有一天將能夠更容易地遠(yuǎn)遠(yuǎn)超過(guò)他們的體重。

這是令人震驚的，因?yàn)樗粌H擴(kuò)大了潛在威脅的數(shù)量和潛在威脅行為者的數(shù)量，而且還使那些幾乎不知道自己在做什么的人更有可能加入戰(zhàn)斗。即使在惡意軟件領(lǐng)域，也存在前所未有的固有魯莽行為。

但這仍然有其挑戰(zhàn)。由于我們知道該技術(shù)是成功的，我們將看到迭代和改進(jìn)。

在ChatGPT的未來(lái)版本中會(huì)發(fā)生什么，用戶(hù)可以連接到查找漏洞的工具？

網(wǎng)絡(luò)安全領(lǐng)域已經(jīng)面臨著控制大量代碼漏洞的挑戰(zhàn)。人工智能將把這些數(shù)字推得更高，因?yàn)樗诎l(fā)現(xiàn)漏洞方面既更快又更聰明。結(jié)合人工智能編碼人員，我們可以在幾分鐘內(nèi)看到新發(fā)現(xiàn)的漏洞的武器化，而不是幾天。

需要明確的是，人工智能目前還沒(méi)有更好或更快，但我們預(yù)計(jì)這種情況會(huì)發(fā)生。總有一天，我們將看到漏洞檢測(cè)、漏洞武器化和有效載荷都是由人工智能完成的，無(wú)需人工干預(yù)。

Check Point研究人員演示了ChatGPT如何創(chuàng)建合理的網(wǎng)絡(luò)釣魚(yú)電子郵件。一旦攻擊者開(kāi)始使用 AI，您預(yù)計(jì)威脅將如何演變？

同樣，人工智能使技術(shù)知識(shí)有限的人更快、更容易訪問(wèn)，以產(chǎn)生大量逼真的網(wǎng)絡(luò)釣魚(yú)攻擊和虛假個(gè)人資料。由于這個(gè)入口相對(duì)較新，因此在這一點(diǎn)上，它對(duì)菜鳥(niǎo)威脅演員來(lái)說(shuō)有點(diǎn)混戰(zhàn)。但是，隨著威脅行為者對(duì)人工智能越來(lái)越熟悉，我們將看到這種復(fù)雜性隨著威脅行為者相互競(jìng)爭(zhēng)以獲得訪問(wèn)權(quán)限和知名度而增長(zhǎng)。

未來(lái)，我們將擁有能夠完成整個(gè)攻擊鏈的人工智能——從起草網(wǎng)絡(luò)釣魚(yú)電子郵件開(kāi)始。人工智能將能夠使用現(xiàn)成的工具來(lái)確定環(huán)境范圍并快速確定進(jìn)入勒索軟件組織的最佳途徑，這并不牽強(qiáng)。它將能夠確定網(wǎng)絡(luò)、布局和架構(gòu)，然后操縱工具鏈來(lái)混淆有效載荷，以避免被防御者檢測(cè)到。所有這些都無(wú)需任何人按下另一個(gè)按鈕。這對(duì)另一邊的人來(lái)說(shuō)不是好消息。