整理 | 言征

ChatGPT插件剛火了不到一天，就被爆出嚴重問題了！

當地時間，24日晚9點，一位推特上昵稱“rez0”的技術駭客（ 同時也是一位prompt工程師），在研究破解新的ChatGPT API時發現了一個非常有趣的事情：通過從API調用中刪除特定參數就能獲得80多個秘密插件，包括：DAN插件、加密貨幣價格插件、Wolfram插件、Instacart插件等等。

API還顯示了本不需要向用戶展示的“模型描述”部分，這是非常有安全風險的：因為這部分暴露了模型是如何被告知使用插件的。

此前，rez0曾懷疑未發布的插件可以通過HTTP代理設置“匹配和替換”規則來使用，只有客戶端會檢查你是否有權使用這些插件，并可以繞過該審查。但很快rez0澄清了，這個猜測不正確。因為——API要么返回的是未經審查的插件，要不就不返回。

這下網友炸鍋了：明明擁有最強大的技術，但行為卻像是個業余選手~~

Rez0聲稱目前這個Bug已經被修復。

此前，周一就被曝出ChatGPT存在用戶隱私漏洞，部分功能被限制使用，許多人的歷史對話標題會出現在其他人聊天框內。

ChatGPT之父Sam也為此事發推道歉，聲稱問題出現在一個開源庫，并刪除了ChatGPT當天的10個小時聊天記錄來修復這場Bug。

一、ChatGPT插件的風險，還有很多

OpenAI近日推出了ChatGPT 插件，通過授予機器人訪問第三方知識源和數據庫（包括網絡）的權限來擴展機器人的功能。OpenAI向waitlist上的ChatGPT用戶和開發人員提供alpha版，OpenAI表示，在推出更大規模和API訪問之前，它會優先考慮少數開發人員和使用其高級ChatGPT Plus計劃的訂閱者。

1.網絡瀏覽插件：引用來源容易誤導

最吸引人的插件無疑是OpenAI的第一方網絡瀏覽插件，它允許ChatGPT從網絡上提取數據以回答向它提出的各種問題。（以前，ChatGPT的知識僅限于2021年9月之前的日期、事件和人物。）該插件使用Bing搜索API從網絡上檢索內容，并顯示它在制作答案時訪問過的任何網站，并在ChatGPT的回復中引用其來源。

OpenAI自己的研究成果也認為風險不會消除。該公司于2021年構建了一個名為WebGPT的實驗系統，該系統有時會引用不可靠的來源，系統還會被激勵從能夠讓用戶會覺得有說服力的網站中挑選數據——即使這些來源客觀上并不是最有信服力的。Meta已解散的BlenderBot 3.0也可以訪問網絡，并迅速偏離正軌，在出現特定文本提示時，會明顯顯示出陰謀論和令人反感的內容。

圖片來源：OpenAI

2.實時數據組織程度差，結果容易被玩弄

與靜態訓練數據集相比，實時網絡的數據組織程度、過濾清洗程度只會更少。谷歌和Bing等搜索引擎使用自己的安全機制來減少不可靠內容出現在結果頂部的可能性，但這些結果可以被玩弄。它們也不一定代表整個網絡。而且，Google的算法會優先考慮使用加密、移動支持和模式標記等現代網絡技術的網站。結果，許多具有其他優質內容的網站在“洗牌”中漸漸埋沒了。

也就是說，搜索引擎可能會對連接互聯網的語言模型的答案，產生很大的影響。谷歌往往在搜索中優先考慮自己的服務，例如，使用來自谷歌地方的數據，而不是像第三方如TripAdvisor這樣更豐富、更社交的來源來回答旅行查詢。與此同時，搜索算法也為不良分子打開了大門。2020 年，Pinterest利用谷歌圖像搜索算法的一個“怪癖”，在谷歌圖像搜索中展示了更多內容 。

二、OpenAI的承諾猶在耳

OpenAI承認，支持網絡的ChatGPT可能會執行所有類型的不良行為，例如發送欺詐性和垃圾郵件、繞過安全限制以及通常“增加欺詐、誤導或濫用他人的不良行為者的能力”。但該公司還表示，它已根據內部和外部“紅隊”通知“實施了幾項保障措施”以防止這種情況發生。時間會證明它們是否足夠應對這些。

除了網絡插件之外，OpenAI還為ChatGPT發布了一個代碼解釋器，它為聊天機器人提供了一個在沙盒、防火墻環境、磁盤空間中工作的Python解釋器。它支持上傳文件到ChatGPT并下載結果；OpenAI表示，它對于解決數學問題、進行數據分析和可視化以及在格式之間轉換文件特別有用。

圖片來源：OpenAI

OpenAI的許多早期合作者為ChatGPT構建了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier。

至于插件的用途，不言自明。例如，OpenTable插件允許ChatGPT跨多個餐廳，搜索可用預訂，而Instacart 插件允許ChatGPT從本地商店下訂單。迄今為止，Zapier是同類產品中最具可擴展性的，它可以與Google表格、Trello和Gmail等應用程序連接，以觸發一系列生產力任務。

為了方便新插件的創建，OpenAI開源了一個“檢索”插件，使ChatGPT能夠通過用自然語言提問來訪問來自文件、筆記、電子郵件或公共文檔等數據源的文檔片段。

“我們正在努力開發插件，并將它們帶給更廣泛的受眾，”OpenAI在一篇博文中寫道。“我們有很多東西要學，在大家的幫助下，我們希望打造出既有用又安全的東西。”

三、寫在最后

插件是ChatGPT開發時間表中一個相當新奇的補充。一旦僅限于其訓練數據中的信息，ChatGPT有了插件，突然變得更加強大——而且承擔的法律風險也可能更低。

一些專家指責OpenAI從訓練ChatGPT的未經許可的任務中獲利；ChatGPT的數據集包含各種公共網站。但是插件可以通過允許公司保留對其數據的完全控制來解決這個問題。

總之，希望ChatGPT能夠盡快完善，盡量少犯些“初級錯誤”吧。而使用者也要客觀對待新事物，謹慎使用。

參考鏈接：https://techcrunch.com/2023/03/23/openai-connects-chatgpt-to-the-internet/