OpenAI公司推出的聊天機器人ChatGPT有很多很好的用途，但就像任何新技術一樣，有些人會利用ChatGPT用于罪惡的目的。

從編寫電子郵件等相對簡單的任務，到撰寫論文或編譯代碼等更復雜的工作，OpenAI公司的人工智能驅動的自然語言處理工具ChatGPT自從推出以來就引起了人們的極大興趣。

當然，ChatGPT并不完美——眾所周知，當它誤解了從中學習的信息時就會犯錯，但許多人將它和其他人工智能工具視為互聯網的未來。

OpenAI公司在ChatGPT的服務條款中加入了禁止生成惡意軟件的條目，其中包括勒索軟件、鍵盤記錄程序、病毒或其他旨在施加某種程度傷害的軟件，還禁止試圖創建垃圾郵件，以及針對網絡犯罪的用例。

但是，就像任何創新的技術一樣，已經有人在嘗試利用ChatGPT實現罪惡的目的。

在ChatGPT發布后不久，網絡犯罪分子就在地下論壇上發帖，討論如何使用ChatGPT來幫助開展惡意網絡活動，例如編寫釣魚郵件或幫助編譯惡意軟件。

有人擔心，網絡犯罪分子會試圖使用ChatGPT和其他人工智能工具(例如谷歌Bard)，作為他們努力的一部分。雖然這些人工智能工具不會徹底改變網絡攻擊，但它們仍然可以幫助網絡犯罪分子更有效地開展惡意攻擊活動。

網絡安全服務商CheckPoint公司的威脅情報部門經理Sergey Shykevich表示，“至少在短期內，我不認為ChatGPT會創造出全新類型的網絡攻擊。重點將是提高他們的日常運營的成本效益?！?/p>

網絡釣魚攻擊是惡意黑客和欺詐活動中最常見的組成部分。無論網絡攻擊者是通過電子郵件傳播惡意軟件、網絡釣魚鏈接，還是被用來說服受害者轉賬，電子郵件最初都是用來脅迫的關鍵工具。

對電子郵件的依賴意味著犯罪團伙需要持續不斷的清晰可用的內容。在許多情況下，尤其是網絡釣魚，網絡攻擊者的目的是說服人們做一些事情，例如轉賬。幸運的是，現在很多這樣的釣魚嘗試都很容易被識別為垃圾郵件，但高效的自動化文案可以讓這些電子郵件更引人注目。

網絡犯罪是一個全球性的產業，網絡犯罪分子都在向世界各地的潛在目標發送釣魚電子郵件，這意味著語言可能是一個障礙，特別是對于那些更復雜的魚叉式網絡釣魚活動來說，這些活動依賴于受害者相信他們正在與值得信賴的聯系人交談——如果電子郵件中充滿了不尋常的拼寫和語法錯誤或奇怪的標點符號，人們不太可能相信他們正在與朋友或同事交談。

但如果人工智能被正確利用，聊天機器人可以用網絡攻擊者想要的任何語言為電子郵件編寫文本。

Shykevich說:“例如，俄羅斯網絡罪犯的最大障礙是語言——英語。他們現在雇傭英語專業的大學畢業生為網絡釣魚郵件撰寫文章，或者在呼叫中心工作，而且他們必須為此支付費用。像ChatGPT這樣的工具可以為他們在創建各種不同的釣魚信息上節省很多費用，我認為這是他們將尋求的方法?！?/p>

從理論上來說，有一些保護措施是為了防止濫用，例如，ChatGPT要求用戶注冊電子郵件地址，還需要電話號碼來驗證注冊。

雖然ChatGPT可以拒絕編寫釣魚電子郵件，但可以要求它為其他消息制作電子郵件模板，這些消息通常被網絡攻擊者利用。這種嘗試可能包括這樣的信息：宣布發放年度獎金，必須下載并安裝重要的軟件更新，或者需要作為緊急事項查看附件。

網絡安全與威脅情報提供商Crowdstrike公司的高級副總裁Adam Meyers表示：“精心制作一封電子郵件，說服某人點擊鏈接，以獲得會議邀請之類的東西，但如果母語不是英語，就不一定能做到?？梢宰孋hatGPT制作一份格式優美、語法正確的邀請函，如果不是以英語為母語的人，就不一定能做到這一點?！?/p>

濫用這些工具不僅僅限于電子郵件，犯罪分子可以使用它來幫助為任何基于文本的在線平臺編寫腳本。對于實施詐騙的網絡攻擊者，甚至是試圖進行間諜活動的高級網絡威脅組織來說，這可能是一個有用的工具——尤其是用于創建虛假的社交資料來吸引人們。

云計算提供商Fastly公司的網絡安全專家、高級首席產品技術專家Kelly Shortridge表示:“如果你想建立可信的業務，可以在LinkedIn發布看似合理的商業言論，讓你看起來像讓客戶試圖建立聯系的真正商人，那么就非常適合采用ChatGPT?！?/p>

各種黑客組織試圖利用LinkedIn和其他社交媒體平臺作為開展網絡間諜活動的工具，但創建虛假但看起來合法的在線個人資料，并在其中填滿帖子和信息，這是一個耗時的過程。

Shortridge認為，網絡攻擊者可以使用ChatGPT等人工智能工具編寫令人信服的內容，同時還具有比人工工作更少勞動密集型的好處。

她說:“很多這類社交工程活動都需要付出很多努力，因為必須建立那些檔案。”她認為人工智能工具可以顯著地降低進入門檻。

她說：“我相信ChatGPT可以寫出非常有說服力的文章?！?/p>

技術創新的本質意味著，每當新事物出現時，總會有人試圖利用它來達到惡意目的。即使開發商使用最創新的手段來防止濫用，網絡犯罪分子和欺詐者的狡猾本性也意味著他們可能會找到規避保護的手段。

Shykevich表示：“沒有辦法將濫用行為完全消除到零。任何系統都不會發生這種情況?！彼Ｍ麖娬{潛在的網絡安全問題意味著圍繞如何防止人工智能聊天機器人被用于錯誤目的展開更多討論。

他說，“ChatGPT是一項偉大的技術，但與任何新技術一樣，它也存在風險，討論并意識到這些風險很重要。我認為，我們討論得越多，OpenAI和類似公司就越有可能在減少濫用方面投入更多資金?！?/p>

人工智能聊天機器人(例如ChatGPT)在網絡安全方面也有好處。它們特別擅長處理和理解代碼，因此有可能使用它們來幫助防御者理解惡意軟件。由于它們也可以編寫代碼，通過幫助開發人員完成項目，這些工具可能有助于更快地創建更好、更安全的代碼，這對每個人都有好處。

調研機構Forrester公司的首席分析師Jeff Pollard指出，ChatGPT可以大幅減少生成安全事件報告所需的時間。

他指出：“更快地扭轉局面意味著有更多的時間做其他事情——例如測試、評估、調查和響應，所有這些都有助于安全團隊的規模?！彼a充說，機器人可以根據可用數據建議下一步的行動。

他說：“如果正確設置安全編排、自動化和響應來加速工件的檢索，這可以加速檢測和響應，并幫助安全運營中心分析師做出更好的決策?！?/p>

因此，聊天機器人可能會讓一些網絡安全公司的日子更加艱難，但也可能有一線希望。

行業媒體聯系OpenAI公司尋求置評，但未得到回復。然而，記者詢問了ChatGPT有什么規則來防止它被濫用于網絡釣魚。得到了以下回復：“需要注意的是，雖然像ChatGPT這樣的人工智能語言模型可以生成類似于釣魚郵件的文本，但它們不能自行執行惡意操作，并且需要用戶的意圖和行動才能造成傷害。因此，用戶在使用人工智能技術時要保持謹慎和良好的判斷，并警惕網絡釣魚和其他惡意活動?！?/p>