編輯 | 星璇

出品 | 51CTO技術棧（微信號：blog51cto）

OpenAI 的競爭對手初創公司Anthropic昨天發布了其 Claude系列人工智能模型的系統提示（System  Prompt），并承諾未來將繼續這樣做，為快速發展的人工智能行業樹立了新的透明度標準。

圖片

1.系統提示為什么這么重要？

系統提示的作用很像大型語言模型（LLM）的操作說明，告訴模型在與用戶交互時應該遵循的一般規則以及應該表現出的行為或個性，它們還傾向于顯示 LLM 在訓練期間學習到的信息的截止日期。

大部分 LLM 都有系統提示，但并不是每家 AI 公司都會公開發布。揭秘模型的系統提示甚至成了AI 越獄者的一種愛好。

但現在不用這些AI越獄者，Anthropic 直接“自曝”，在其網站的直接發布說明部分發布了其Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus型號的操作說明。

此外，Anthropic 的開發者關系主管Alex Albert 在 X上發布了一項承諾，即讓公眾了解其系統提示的最新情況，他寫道：“我們將記錄對 Claude dot ai 和我們的移動應用程序上的默認系統提示所做的更改。”

2.Anthropic 的系統提示曝光了

針對 Claude 3.5 Sonnet、Claude 3 Haiku 和 Claude 3 Opus 這三個模型的系統提示揭示了每個模型的一些有趣細節、它們的能力和知識日期截止值以及各種性格怪癖。

Claude 3.5 Sonnet是最先進的版本，其知識庫于 2024 年 4 月更新。它為復雜問題提供詳細答案，為簡單任務提供簡潔答案，強調準確性和簡潔性。該模型謹慎處理有爭議的話題，呈現信息時不會明確將其標記為敏感或聲稱客觀。此外，Claude 3.5 Sonnet 避免使用不必要的填充短語或道歉，并特別注意其處理圖像識別的方式，確保它永遠不會承認識別了任何人臉。

Claude 3 Opus的知識庫更新至 2023 年 8 月，擅長處理復雜任務和寫作。它旨在對簡單查詢提供簡潔的回復，對更復雜的問題提供詳盡的答案。Claude 3 Opus 通過提供廣泛的視角、避免刻板印象和提供平衡的觀點來解決有爭議的話題。雖然它與 Sonnet 模型有一些相似之處，但它沒有采用相同的詳細行為準則，例如避免道歉或不必要的肯定。

Claude 3 Haiku是 Claude 系列中速度最快的模型，同樣于 2023 年 8 月進行了更新。它經過優化，可以快速、簡潔地回答簡單問題，同時在需要解決更復雜的問題時仍能提供全面的答案。與 Sonnet 相比，Haiku 的提示結構更為直接，主要注重速度和效率，沒有 Sonnet 模型中更高級的行為細微差別。

3.為什么 Anthropic 發布其系統提示很重要

生成式AI系統一直都被描述為一個人類難以理解的“黑匣子”，人們很難找出模型做出決定的原因和方式。黑匣子問題繼而引發了對人工智能可解釋性的研究，這是一種闡明模型預測決策過程的方法。公眾對系統提示的訪問是朝著稍微打開黑匣子邁出的一步，但僅限于人們了解人工智能公司為其創建的模型設定的規則的程度。

所以，AI 開發人員對 Anthropic 這一透明性決定大為贊賞，并認為：發布有關 Claude 系統提示和更新的文檔將會令其在眾多大模型獨角獸中脫穎而出。

圖片

一位從行業者稱：這是一個偉大的變化，希望業界也都行動起來。

4.小遺憾：并非完全開源

發布Claude 模型的系統提示并不意味著 Anthropic 開放了該模型系列。運行模型的實際源代碼以及訓練數據集和底層“權重”（或模型設置）仍掌握在 Anthropic 手中。

盡管如此，Anthropic 發布 Claude 系統為其他 AI 公司指明了一條提高 AI 模型開發透明度的道路。它還向用戶展示了他們的 AI 聊天機器人是如何設計的，從而讓用戶受益。

?本文轉載自??51CTO技術棧??，作者：星璇