ChatGPT 滑鐵盧:大面積封號;遭意大利封禁
ChatGPT 似乎正在遭遇一場滑鐵盧。
3月31日, 大量用戶在社交平臺吐槽,自己花錢開通的 ChatGPT 賬戶已經無法登錄,更無語的是還不能注冊新賬號。隨著越來越多用戶披露,人們發現這場封號風波從 3 月 30 日就已經開始了,并且正在迅速蔓延。
4 月 1 日,越來越多人表示自己的賬戶被封,各大平臺、群聊都有人奔走相告“注意事項”以防被封。此時,原本尚可以使用的Plus賬戶也沒有幸免,陸陸續續失效,甚至有些在賬單里都無法查詢記錄。
詭異的是,截止到 4 月 3 日,大規模封號似乎還沒有停下來,不少網友還在社交平臺上發帖稱,“ChatGPT 正在大面積封號了”。有大量用戶反饋,這次悄無聲息的封號主要集中在亞洲地區,與此同時,OpenAI并未對此進行任何警告及回應。
在合規方面,ChatGPT也遭遇了新的審查。The Record 網站披露,意大利數據保護機構正式官宣暫時禁止使用 ChatGPT,并嚴厲要求其母公司 OpenAI 停止處理意大利用戶信息。意大利“打響”了封禁 ChatGPT 第一槍!
對于封禁 ChatGPT的原因,意大利數據保護機表示 OpenAI 公司不但非法收集大量意大利用戶個人數據,更為糟糕的是,OpenAI 未設立檢查 ChatGPT 用戶年齡的機制,以防止未成年人接觸非法材料。
意大利數據保護機構進一步指出 OpenAI 公司有 20 天時間為其竊取信息的行為辯護,否則可能因違反歐盟《通用數據保護條例》,被處以最高 2000 萬歐元或公司全年營業額 4% 的罰款。不僅是罰款方面,一旦 OpenAI 不能詳細說明其是否采取措施保護用戶數據信息,勢必會增加歐盟諸國封禁 ChatGPT 的概率。
意大利封禁 ChatGPT 一事發生后,OpenAI 第一時間在意大利下線了 ChatGPT,其首席執行官 Sam Altman 立刻的發推解釋稱公司所做的工作是為了在訓練 ChatGPT 等人工智能系統時減少個人數據,希望我們的人工智能了解世界,而不是了解個人。公司并沒有違反任何規定,非常期望與意大利個人數據保護機構展開合作。
ChatGPT 無疑是一把雙刃劍
不可否認,ChatGPT 的出現會掀起新一輪信息革命,更好造福人類,但任何事情都具有兩面性,社會在憧憬 ChatGPT 將會為人類帶來前所未有的機遇時,同樣應該思考它的出現會帶來哪些安全隱患。畢竟短短兩三個月,因使用 ChatGPT 產生的安全隱患接二連三出現。
用戶可查看其他用戶聊天記錄
ChatGPT 推出后一直是以“完美”形象示人,但隨著用戶逐漸增多慢慢開始暴露出一些安全隱患。
2023 年 3 月上旬,部分用戶爆料其聊天列表中顯示他人的聊天記錄,一時間 ChatGPT 泄露用戶數據占據各大社交媒體榜單 ,最終其母公司 OpenAI 首席執行官薩姆 · 奧爾特曼不得不緊急發布推文向用戶解釋,導致用戶 ChatGPT 聊天歷史泄露的 BUG 僅僅是源于開源代碼庫中存在的一個錯誤。
用戶聊條記錄泄露事件后,雖然 OpenAI 非常爽快的向媒體承認 ChatGPT 出現了安全漏洞,并立刻下線聊天歷史功能,但一直強調發生泄漏的只有聊天歷史記錄標題,用戶無法看到其他人的實際聊天內容。
從 OpenAI 披露的信息來看,用戶對話內容會自動保存到云端,存在被第三方竊取的可能性,結合此次歷史聊條記錄泄露事件,越來越多的安全研究人員開始認真思考 ChatGPT 出現信息安全問題是否具有偶然性。
三星因使用 ChatGPT,導致機密數據泄漏
一波未平,一波又起。上周,韓國媒體披露科技巨頭三星電子在引入 ChatGPT 不到 20 天就被曝出 3 起內部機密資料外泄事故。(2 起跟半導體設備有關,1 起跟內部會議內容有關)。
據悉,這些三星電子的機密資料可能已經被導入到 ChatGPT 的數據庫中,隨時都面臨泄露的風險。
三起事件的詳細說明:
- 三星 DS 設備解決方案部員工在操作半導體測試設備下載軟件時,發現復制存在一些問題,于是便將有問題的代碼粘貼到 ChatGPT 中,試圖獲得幫助,然而此舉可能使得 ChatGPT 將三星的機密信息當作訓練資料來使用;
- DS 設備解決方案部另外一名員工試圖想用 ChatGPT 幫其優化一段代碼,于是就直接將與產量和良品率記錄設備相關的一段代碼輸入了其中;
- 三星某內部人員使用 AI 語音助手 Naver Clova 將會議錄音轉成文字后,想借助 ChatGPT 總結提煉一下會議內容,但是這可能導致會議記錄機密外泄。
三星電子泄密事件后,內部就立刻組織安全人員制定了相關保護措施,并表示此后若又發生類似事故,三星內部可能會切斷 ChatGPT 服務。此外,媒體披露三星目前正在考慮通過 DS 部門創新中心研發專屬三星的 AI 服務。
今年 3 月 11 日,三星電子通過決議允許 DS 部門員工使用 ChatGPT,但對 DX 裝置體驗部門員工仍禁用 ChatGPT。結果短短二十天就遭遇 3 次意外安全事故,由此可見 ChatGPT 安全性確實值得思考。
員工在 ChatGPT 上傳企業機密數據并非只有三星一家公司。從 Cyberhaven 統計的 160 萬名員工使用 ChatGPT 的情況來看,約有 3.1% 的員工為提高工作效率,將企業內部數據直接上傳到 ChatGPT 進行分析。
多名科學人士聯名呼吁暫停更強大的 AI 開發研究
從上文提到的內容可以看出,ChatGPT 應用廣泛的同時帶來一些嚴重安全風險,因此有關 ChatGPT 和人工智能的未來,引起了民眾對 AI 技術的擔憂,許多知名科學人士聯合聲明暫停開發更強大的 AI 系統。
美國時間 3 月 29 日,包括人工智能之父杰弗里·辛頓、特斯拉和推特 CEO 埃隆·馬斯克、圖靈獎得主約書亞·本希奧等在內的上千名人工智能專家和行業高管在美國非營利組織未來生命研究所(Future of Life Institute)發布的一封名為“暫停AI 大模型實驗”的公開信上簽署了姓名。
這些資深專家們在信中呼吁所有人工智能實驗室應當至少暫停半年對更強大人工智能系統的開發和訓練,特殊情況下,各國政府應及時介入并立刻暫停 AI 系統研究。