最近一些分析師發出警告，OpenAI開發的聊天機器人ChatGPT可以生成惡意軟件。AI生成的代碼可能會給網絡安全造成嚴重威脅，人類編寫的防護軟件無法抵御。

據Tech Monitor報道，不久前OpenAI正式發布ChatGPT聊天機器人，它是根據OpenAI的GPT-3大語言模型開發的。事實證明ChatGPT可以完成多種任務，比如回答客戶提問，生成代碼，根據提示撰寫復雜且精準的散文。

但是，ChatGPT還可以用于網絡犯罪，這恐怕是很多人沒有想到的。推特網友@lordx64是一名工程師，他用ChatGPT生成了新的惡意軟件。他指出，用戶可以用OpenAI生成負載，可以具體指定執行何種負載以及如何執行，這可以用于網絡戰爭。

2019年時OpenAI曾做過嘗試，用AI軟件生成假新聞。給AI一個主題，給出簡單提示，它就能生成連貫文章。即使換一個不同主題，AI也不需要重新訓練就能上崗。

ChatGPT能不能生成惡意軟件？

網絡安全行業已經開始引入AI，它可以快速發現攻擊并回應。ChatGPT能不能更進一步？能不能生成代碼？牛津大學AI、網絡安全顧問Raj Sharma給出自己的看法：

“這些代碼都是非常基本的代碼，但還是可以用來犯罪。AI有一個擅長的技能，那就是自動化。如果黑客能訓練AI，讓它編寫惡意軟件，它會不斷學習，到時黑客就能擁有一款基于學習的黑客工具。”

Trend Micro技術專家Bharat Mistry認為，ChatGPT在基礎層面很容易使用，但想讓它生成強大的惡意軟件還是很難，許多黑客都做不到。他說：“聊天機器人越來越多，背后的智能越來越高。網絡犯罪也越來越復雜，黑客必須知道如何調校引擎，讓它做黑客需要引擎做的事。總之，實際操作會比預想的復雜很多。”

Mistry認為，完成這種操作需要很強的技術實力，恐怕只有國家資助的網絡間諜才能做到。他強調：“需要非常強大的團隊才能做到，這樣的工具如果被壞人掌握，那是相當危險的。”

如何抵擋AI生成的惡意軟件？

用AI系統生成種族主義內容和仇恨內容不是什么新鮮事，許多人討論過。OpenAI曾刊發論文，說它開發的系統可以用來降低虛擬信息傳播成本。

Sharma認為，可以通過控制措施阻止惡意內容生成，比如，如果請求次數太多，或者某類信息播放的次數很多，就可以啟動審查，如此一來機器就會知道它不該這么做。

對于惡意軟件，那就是另一碼事了。如果想對抗用AI系統生成的惡意代碼，最好的辦法就是用AI來創建保護機制。Sharma稱：“如果有什么黑客工具用到了AI，我們必須用AI來理解其行為，用傳統的安全控制措施是無法應付的。”

Mistry也認為在此種環境下應該將AI用作防御手段，因為AI有自己的優勢。AI擅于創建“多態”事物，可以改變形態去適應每一次交互——與系統的交互。AI引擎可以高速運行、大規模部署，這是人類做不到的。