幾天前，馬斯克、Yoshua Bengio 等人聯名簽署公開信，呼吁所有 AI 實驗室應立即暫停訓練比 GPT-4 更強大的 AI 模型。現在，又有人要叫停已經發布的 GPT-4。

這次叫停 GPT-4 的是非營利組織人工智能與數字政策中心（CAIDP）。CAIDP 請求美國聯邦貿易委員會（FTC）調查 OpenAI 公司并禁止該公司進一步發布 GPT-4。

文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出這份申請的原因是他們認為「OpenAI 發布的消費級產品 GPT-4 存在偏見、欺騙性，并且對隱私和公共安全構成風險。模型的輸出無法證明或復現，且在部署之前沒有進行獨立評估」。

CAIDP 呼吁對美國所有商業人工智能產品進行獨立監督和評估，并確保建立必要的「保護措施」，來保護消費者、企業和商業市場。

此前，FTC 已經宣布一個人工智能標準，即「在促進問責制的同時，要求人工智能的使用是透明的、可解釋的、公平的，并在經驗上是合理的」，CAIDP 稱「OpenAI 的 GPT-4 不滿足這些要求中的任何一個」。

距離 GPT-4 發布僅過去兩周，人們已經對這類強大的 AI 模型產生了巨大的分歧。一方面，想叫停 GPT-4 等強大模型的一類人認為這些模型會給信息安全甚至人類社會構成較大風險；另一方面，一些人認為這正是人工智能蓬勃發展的好時機，我們應該推動技術的加速進步。

有趣的是，OpenAI CEO Sam Altman 發布了一條新推特：「在風暴的中心保持平靜。」這或許是他對于最近一系列「暫停 GPT-4 等模型研究」呼吁的回應。

在風險方面，OpenAI 在發布時表示已讓外部專家評估 GPT-4 帶來的潛在風險。然而，CAIDP 在提交給 FTC 的申請中明確指出 GPT-4 違反了哪些法案。

CAIDP 認為 GPT-4 嚴重影響了商業公平，稱：「GPT-4 的商業發布違反了 FTC 法案第 5 節、FTC 就人工智能產品的使用和廣告對企業制定的標準，以及人工智能治理的新興規范等等。」

此外，OpenAI 沒有透露 GPT-4 的任何技術細節。這也是 CAIDP 向 FTC 提出申請的原因之一。

CAIDP 表示：「OpenAI 沒有透露有關架構、模型大小、硬件、計算資源、訓練技術、數據集構建或訓練方法的細節，而研究界通常的做法是記錄大型語言模型的訓練數據和訓練技術，但 OpenAI 選擇不為 GPT-4 做這些事。特別地，生成式人工智能模型不是尋常的消費品，因為它們在使用的過程中可能會表現出一些異常行為，而這些行為可能是其發布公司之前沒有發現的。」

投訴細節

具體來說，CAIDP 在這份投訴申請中針對 GPT-4 和相關模型 ChatGPT 指出了一系列潛在風險。

例如，OpenAI 在文章《 GPT-4 System Card 》中已經明確表示，GPT-4 可能會強化和重現特定的偏見和世界觀，包括對某些邊緣群體的刻板印象和貶低聯想。CAIDP 還引用了 OpenAI 公司的一篇博文，該博文稱類似的大模型 ChatGPT 有時會響應有害指令或表現出有偏見的行為。

在提交給 FTC 的投訴中，CAIDP 表示「OpenAI 在充分了解風險的情況下，還是向公眾發布了 GPT-4 ，以用于商業用途」。投訴還稱，「《 GPT-4 System Card 》沒有提供 OpenAI 在其測試期間進行的安全檢查的詳細信息，也沒有詳細說明 OpenAI 為保護兒童采取的任何措施，這也引發了對兒童使用 GPT-4 的擔憂。」

CAIDP 還指出了歐洲消費者組織 BEUC 提出的擔憂：「如果 ChatGPT 被用于消費者信貸或保險評分，那么它有沒有可能會產生不公平和有偏見的結果？」這條推文也被作為引用出現在 CAIDP 的投訴申請中。

另外，在網絡安全方面，ChatGPT 可被用于網絡釣魚、制作虛假文本，或是生成惡意代碼。在隱私方面，CAIDP 表示本月有報道稱 OpenAI 向其他用戶顯示了私人聊天記錄。

在另一個案例中，一位 AI 研究人員介紹了 ChatGPT 是如何接管某人賬戶，查看聊天記錄，并在他們沒有意識到的情況下訪問他們的賬單信息。不過 OpenAI 修復了該漏洞。

CAIDP 還表示，GPT-4 能夠從圖片輸入中提供文本回復，這一功能對個人隱私和個人自主權來說影響巨大，它能讓用戶將個人圖像與詳細的個人數據聯系起來。據了解，OpenAI 已暫停發布圖像到文本功能 ，但真實情況如何還不好說。

CAIDP 認為 FTC 應該禁止 OpenAI 對 GPT 的進一步商業部署，要求在部署之前和整個 GPT AI 生命周期對 GPT 產品進行獨立評估，要求 OpenAI 遵守 FTC AI 標準，并建立一個可公開訪問的 GPT-4 的事件報告機制，類似于 FTC 報告消費者欺詐的機制。

CAIDP 還敦促 FTC 進一步發布標準規范，以用作「生成式人工智能市場領域的產品基本標準」。

AI 學界，一場論戰

從前兩天千人聯名要求暫停 GPT-4 后續 AI 大模型的研發，到今天 CAIDP 要求 FTC 調查 OpenAI 禁止發布新的商業版 GPT-4。短短一兩天時間，各路討論已經炸開了鍋，AI 大佬以及各路大牛紛紛出來公開回應。他們當中有反對的，也有支持的。

在暫停 GPT-4 后續 AI 大模型的研發方面，圖靈獎得主 Yoshua Bengio、特斯拉 CEO（OpenAI 聯合創始人）伊隆?馬斯克、紐約大學名譽教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是贊成派，他們已經在暫停巨型 AI 實驗公開信上簽了名。值得注意的是，CAIDP 的總裁兼創始人 Marc Rotenberg 也簽署了這份公開信。

公開信地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不過一直抨擊 ChatGPT 的 Yann LeCun 公開表示不會簽署這封公開信，不同意這封公開信的內容。

俄勒岡州立大學名譽教授 Thomas G. Dietterich 在推特上表示「我也沒簽。這封信充斥著一堆可怕的修辭和無效或不存在的政策。一些重要的技術和政策問題，都在努力解決中。」 LeCun 公開表示「我同意」。

吳恩達也發文公開反對千人聯名，并表示：「GPT-4 在教育、醫療保健、食品等方面都有很多新的應用，會幫助很多人。除非政府介入，否則實施暫停并阻止所有團隊擴大 LLM 規模是不現實的。此外，讓政府暫停他們不了解的新興技術是反競爭的，這樣就開了一個糟糕的先例，也是糟糕的政策。」

隨后田淵棟也支持吳恩達的觀點，「表明自己不會簽署暫停令。并表示這種事情一旦開始，就沒有辦法停止或扭轉這一趨勢，這就是進化的必然。我們應該換個角度向前看，更好地理解 LLM，適應它并利用其力量，感受熱度。」

剛剛宣布離開谷歌大腦的 Yi Tay（之前是谷歌大腦的高級研究員）表示：「如果禁言在網上胡亂討論 LLM 的人 6 個月，我會簽名。」