人工智能驅(qū)動(dòng)的代理正在快速發(fā)展，為自動(dòng)化日常任務(wù)提供了更強(qiáng)大的能力。然而，研究人員發(fā)現(xiàn)，這些工具也可能被惡意行為者利用來(lái)實(shí)施攻擊。OpenAI 的“Operator”于 2025 年 1 月 23 日作為研究預(yù)覽發(fā)布，代表了新一代能夠與網(wǎng)頁(yè)交互并在最少人為干預(yù)下執(zhí)行復(fù)雜任務(wù)的 AI 工具。

盡管這些代理設(shè)計(jì)初衷是合法的，但它們可能被攻擊者利用來(lái)創(chuàng)建基礎(chǔ)設(shè)施并發(fā)動(dòng)復(fù)雜的攻擊。在一項(xiàng)令人擔(dān)憂的演示中，AI 代理在幾乎無(wú)人指導(dǎo)的情況下，成功完成了模擬攻擊的多個(gè)步驟。

AI 代理的潛在威脅

OpenAI 的 Operator 展示了 AI 技術(shù)在攻擊中的潛在威脅。測(cè)試表明，這些系統(tǒng)可以輕易被操縱來(lái)執(zhí)行偵察任務(wù)、編寫惡意代碼，并通過(guò)社會(huì)工程技術(shù)進(jìn)行傳播。賽門鐵克的安全研究人員指出，通過(guò)簡(jiǎn)單的提示修改，他們就能繞過(guò) AI 的安全防護(hù)。

在實(shí)驗(yàn)中，研究人員只需聲稱獲得了目標(biāo)的授權(quán)，Operator 就會(huì)繼續(xù)執(zhí)行潛在有害的操作，包括識(shí)別特定員工、推斷其電子郵件地址，并編寫具有說(shuō)服力的釣魚郵件。演示還顯示，Operator 能夠獨(dú)立研究 PowerShell 命令，然后編寫用于收集敏感系統(tǒng)信息的腳本。

Operator 創(chuàng)建的 PowerShell 腳本（來(lái)源：賽門鐵克）

生成的代碼包括收集操作系統(tǒng)詳細(xì)信息、計(jì)算機(jī)規(guī)格、網(wǎng)絡(luò)配置和磁盤信息的命令——這些都是攻擊者在網(wǎng)絡(luò)中建立立足點(diǎn)所需的寶貴情報(bào)。最令人擔(dān)憂的是，Operator 能夠編寫具有說(shuō)服力的釣魚郵件。郵件中，它冒充一名名為“Eric Hogan”的 IT 支持專業(yè)人員，并為目標(biāo)創(chuàng)建了一個(gè)看似合理的理由來(lái)執(zhí)行腳本。

Operator 發(fā)送給目標(biāo)（賽門鐵克的 Dick O’Brien）的電子郵件（來(lái)源：賽門鐵克）

郵件中催促目標(biāo)執(zhí)行腳本，以確保“系統(tǒng)完整性和性能”，并稱這是“持續(xù)努力”的一部分——這種語(yǔ)言與合法的 IT 通訊風(fēng)格非常相似。

技術(shù)影響與未來(lái)?yè)?dān)憂

Operator 創(chuàng)建的 PowerShell 腳本展示了 AI 已經(jīng)能夠在沒有人類專業(yè)知識(shí)的情況下編寫功能性的惡意代碼。該腳本使用標(biāo)準(zhǔn)的 Windows Management Instrumentation (WMI) 命令來(lái)提取系統(tǒng)信息，并將其保存到用戶配置文件中的文本文件中。

雖然這個(gè)例子僅收集了系統(tǒng)信息，但同樣的方法可用于創(chuàng)建更具破壞性的載荷。安全專家警告稱，隨著這些 AI 代理變得越來(lái)越復(fù)雜，攻擊者可能會(huì)指示它們“黑入公司 X”，并讓 AI 自動(dòng)確定并執(zhí)行最佳攻擊策略，這將大大降低實(shí)施網(wǎng)絡(luò)攻擊的技術(shù)門檻。

隨著 AI 技術(shù)的不斷進(jìn)步，網(wǎng)絡(luò)安全領(lǐng)域面臨的新挑戰(zhàn)不容忽視。企業(yè)和安全團(tuán)隊(duì)需要采取更加主動(dòng)的措施，防范 AI 代理可能帶來(lái)的威脅。