[[250514]]

【51CTO.com快譯】人工智能(AI)正迅速成為政府、企業(yè)和公民防御網(wǎng)絡(luò)攻擊的一個(gè)重要組成部分。從最初只是自動(dòng)執(zhí)行特定手工任務(wù)的技術(shù)，到使用日益復(fù)雜的系統(tǒng)來(lái)解讀分析數(shù)據(jù)的機(jī)器學(xué)習(xí)，深度學(xué)習(xí)能力方面的突破將成為安全議程中一個(gè)不可或缺的部分。人們對(duì)這些能力如何有助于打造防御態(tài)勢(shì)給予了極大的關(guān)注。但是敵人如何利用AI帶來(lái)新一代攻擊途徑、安全界如何應(yīng)對(duì)卻往往被忽視。最終，AI的真正危險(xiǎn)在于它會(huì)成為攻擊者的幫兇。

挑戰(zhàn)

敵對(duì)式AI是指惡意開(kāi)發(fā)和使用先進(jìn)的數(shù)字技術(shù)和系統(tǒng)，它們擁有通常與人類(lèi)行為相關(guān)的智力過(guò)程。這包括從過(guò)去的經(jīng)驗(yàn)中學(xué)習(xí)以及從復(fù)雜數(shù)據(jù)中推理或發(fā)現(xiàn)含意的能力。

威脅領(lǐng)域的變化已經(jīng)很明顯。犯罪分子已經(jīng)在利用自動(dòng)化偵察、鉆目標(biāo)空子和網(wǎng)絡(luò)滲透。很快，技術(shù)將使它們能夠自動(dòng)執(zhí)行攻擊周期的每個(gè)環(huán)節(jié)，包括目前非常手動(dòng)的流程，比如學(xué)習(xí)欺詐控制的能力以及使套現(xiàn)和洗錢(qián)策略實(shí)現(xiàn)工業(yè)化的能力。

基于核心的大數(shù)據(jù)原則，敵對(duì)式AI將從三大方面影響威脅領(lǐng)域。

1. 對(duì)更廣泛的攻擊周期實(shí)行更大規(guī)模的攻擊

通過(guò)引入新的可擴(kuò)展系統(tǒng)(通常需要人力和專(zhuān)長(zhǎng)來(lái)實(shí)施攻擊)，犯罪分子能夠投入資源和能力，針對(duì)一批目標(biāo)來(lái)構(gòu)建和改動(dòng)新的基礎(chǔ)設(shè)施。

2. 新的攻擊步伐和速度，可以針對(duì)具體環(huán)境來(lái)改動(dòng)

技術(shù)將使犯罪團(tuán)伙能夠變得越來(lái)越有效且高效。技術(shù)將讓他們得以實(shí)時(shí)微調(diào)攻擊，適應(yīng)具體的環(huán)境，并更快地學(xué)習(xí)防御態(tài)勢(shì)。這在所有攻擊場(chǎng)景、行業(yè)和技術(shù)平臺(tái)上將得到體現(xiàn)。

3. 新的攻擊種類(lèi)，以前依賴人類(lèi)互動(dòng)時(shí)是不可能實(shí)現(xiàn)的

最后但最重要的是，下一代技術(shù)系統(tǒng)將實(shí)現(xiàn)以前不可行的攻擊方法。這將在一系列轉(zhuǎn)變中改變威脅領(lǐng)域，繞過(guò)為抵御攻擊而實(shí)施到位的整整一代控制。

網(wǎng)絡(luò)安全界需要采取的5種應(yīng)對(duì)方式

可供攻擊者使用的新一代系統(tǒng)方面的進(jìn)步需要我們基于堅(jiān)實(shí)的安全基礎(chǔ)，采用一種整體的、多層次的方案。攻擊途徑的改動(dòng)和增加需要當(dāng)前的防御框架有所演變和適應(yīng)。新一代攻擊方法需要繞過(guò)傳統(tǒng)的檢測(cè)和響應(yīng)態(tài)勢(shì)才有可能得逞。

1. 了解我們當(dāng)前的威脅環(huán)境

不可能始終保護(hù)企業(yè)免受來(lái)自所有渠道的攻擊。了解和防御敵對(duì)式AI將需要深入了解威脅在哪個(gè)環(huán)節(jié)會(huì)挑戰(zhàn)當(dāng)前的安全態(tài)勢(shì)、應(yīng)將有限的資源集中投入到哪個(gè)環(huán)節(jié)。

2. 投入于技能和分析

為了適應(yīng)這種新的安全環(huán)境，政府、企業(yè)和教育系統(tǒng)需要確保它們擁有必要的技能基礎(chǔ)和人才管道。吸引和招募人才的能力，以及對(duì)人才進(jìn)行多學(xué)科(包括高級(jí)計(jì)算、數(shù)學(xué)和統(tǒng)一分析)方面的再培訓(xùn)的能力很快會(huì)至關(guān)重要。

3. 投入于供應(yīng)商和第三方

全面的深度防御基于一整套服務(wù)和第三方，它們?cè)谶\(yùn)營(yíng)和戰(zhàn)略層面積極管理和完善防御，順應(yīng)不斷變化的威脅領(lǐng)域。安全界要有明確的路線圖、戰(zhàn)略和必要的技能，以適應(yīng)敵對(duì)式AI帶來(lái)的新型攻擊。投入于集成式的集群和機(jī)器學(xué)習(xí)分析以實(shí)現(xiàn)基于主機(jī)的檢測(cè)和網(wǎng)絡(luò)監(jiān)控，這越來(lái)越成為行業(yè)標(biāo)準(zhǔn)，但很快需要這種先進(jìn)技術(shù)，應(yīng)用于企業(yè)的全部攻擊面。

4. 投入于新的政企伙伴關(guān)系

引入新的AI驅(qū)動(dòng)系統(tǒng)將挑戰(zhàn)傳統(tǒng)的防御態(tài)勢(shì)，需要更深入和更廣泛的合作伙伴基礎(chǔ)以保護(hù)企業(yè)。想應(yīng)對(duì)可在全球范圍內(nèi)實(shí)施的大規(guī)模攻擊，需要傳統(tǒng)結(jié)構(gòu)之外積極的伙伴關(guān)系和聯(lián)盟。這方面的關(guān)鍵是與跨行業(yè)合作伙伴、監(jiān)管部門(mén)和政府積極制定戰(zhàn)略，它們可以共同制定戰(zhàn)略，積極應(yīng)對(duì)新的安全挑戰(zhàn)。這會(huì)更需要協(xié)調(diào)針對(duì)合作伙伴之間認(rèn)證和溝通的規(guī)則。

5. 繼續(xù)融合關(guān)鍵業(yè)務(wù)流程和能力

新一代攻擊針對(duì)整個(gè)企業(yè)的全部攻擊面，并鉆缺乏整體防御機(jī)制的空子，會(huì)給結(jié)構(gòu)性運(yùn)營(yíng)孤島帶來(lái)越來(lái)越大的壓力。

為什么現(xiàn)在行動(dòng)起來(lái)很重要?

網(wǎng)絡(luò)安全將繼續(xù)成為21世紀(jì)的安全挑戰(zhàn)。它已經(jīng)從根本上改變了企業(yè)、政府和公民如何合作打擊犯罪。但這只是一個(gè)開(kāi)始。

原文標(biāo)題：What is adversarial artificial intelligence and why does it matter?，作者：William Dixon

【51CTO譯稿，合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文譯者和出處為51CTO.com】