編輯 | 星璇
出品 | 51CTO技術(shù)棧（微信號：blog51cto）
OpenAI 的競爭對手初創(chuàng)公司Anthropic昨天發(fā)布了其 Claude系列人工智能模型的系統(tǒng)提示（System Prompt），并承諾未來將繼續(xù)這樣做，為快速發(fā)展的人工智能行業(yè)樹立了新的透明度標準。
圖片
1.系統(tǒng)提示為什么這么重要？
系統(tǒng)提示的作用很像大型語言模型（LLM）的操作說明，告訴模型在與用戶交互時應(yīng)該遵循的一般規(guī)則以及應(yīng)該表現(xiàn)出的行為或個性，它們還傾向于顯示 LLM 在訓(xùn)練期間學(xué)習到的信息的截止日期。
大部分 LLM 都有系統(tǒng)提示，但并不是每家 AI 公司都會公開發(fā)布。揭秘模型的系統(tǒng)提示甚至成了AI 越獄者的一種愛好。
但現(xiàn)在不用這些AI越獄者，Anthropic 直接“自曝”，在其網(wǎng)站的直接發(fā)布說明部分發(fā)布了其Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus型號的操作說明。
此外，Anthropic 的開發(fā)者關(guān)系主管Alex Albert 在 X上發(fā)布了一項承諾，即讓公眾了解其系統(tǒng)提示的最新情況，他寫道：“我們將記錄對 Claude dot ai 和我們的移動應(yīng)用程序上的默認系統(tǒng)提示所做的更改。”
2.Anthropic 的系統(tǒng)提示曝光了
針對 Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus 這三個模型的系統(tǒng)提示揭示了每個模型的一些有趣細節(jié)、它們的能力和知識日期截止值以及各種性格怪癖。
Claude 3.5 Sonnet是最先進的版本，其知識庫于 2024 年 4 月更新。它為復(fù)雜問題提供詳細答案，為簡單任務(wù)提供簡潔答案，強調(diào)準確性和簡潔性。該模型謹慎處理有爭議的話題，呈現(xiàn)信息時不會明確將其標記為敏感或聲稱客觀。此外，Claude 3.5 Sonnet 避免使用不必要的填充短語或道歉，并特別注意其處理圖像識別的方式，確保它永遠不會承認識別了任何人臉。
Claude 3 Opus的知識庫更新至 2023 年 8 月，擅長處理復(fù)雜任務(wù)和寫作。它旨在對簡單查詢提供簡潔的回復(fù)，對更復(fù)雜的問題提供詳盡的答案。Claude 3 Opus 通過提供廣泛的視角、避免刻板印象和提供平衡的觀點來解決有爭議的話題。雖然它與 Sonnet 模型有一些相似之處，但它沒有采用相同的詳細行為準則，例如避免道歉或不必要的肯定。
Claude 3 Haiku是 Claude 系列中速度最快的模型，同樣于 2023 年 8 月進行了更新。它經(jīng)過優(yōu)化，可以快速、簡潔地回答簡單問題，同時在需要解決更復(fù)雜的問題時仍能提供全面的答案。與 Sonnet 相比，Haiku 的提示結(jié)構(gòu)更為直接，主要注重速度和效率，沒有 Sonnet 模型中更高級的行為細微差別。
3.為什么 Anthropic 發(fā)布其系統(tǒng)提示很重要
生成式AI系統(tǒng)一直都被描述為一個人類難以理解的“黑匣子”，人們很難找出模型做出決定的原因和方式。黑匣子問題繼而引發(fā)了對人工智能可解釋性的研究，這是一種闡明模型預(yù)測決策過程的方法。公眾對系統(tǒng)提示的訪問是朝著稍微打開黑匣子邁出的一步，但僅限于人們了解人工智能公司為其創(chuàng)建的模型設(shè)定的規(guī)則的程度。
所以，AI 開發(fā)人員對 Anthropic 這一透明性決定大為贊賞，并認為：發(fā)布有關(guān) Claude 系統(tǒng)提示和更新的文檔將會令其在眾多大模型獨角獸中脫穎而出。
圖片
一位從行業(yè)者稱：這是一個偉大的變化，希望業(yè)界也都行動起來。
4.小遺憾：并非完全開源
發(fā)布Claude 模型的系統(tǒng)提示并不意味著 Anthropic 開放了該模型系列。運行模型的實際源代碼以及訓(xùn)練數(shù)據(jù)集和底層“權(quán)重”（或模型設(shè)置）仍掌握在 Anthropic 手中。
盡管如此，Anthropic 發(fā)布 Claude 系統(tǒng)為其他 AI 公司指明了一條提高 AI 模型開發(fā)透明度的道路。它還向用戶展示了他們的 AI 聊天機器人是如何設(shè)計的，從而讓用戶受益。
