距離馬斯克的 xAI 公布 Grok 才過去一天，剛剛，xAI 又公布了另一款 AI 產(chǎn)品，一個可用于 prompt 工程和可解釋性研究的集成開發(fā)環(huán)境：PromptIDE。

接連不斷的新品發(fā)布，也讓網(wǎng)友紛紛感嘆：「xAI 團(tuán)隊(duì)的開發(fā)速度簡直是瘋了！」

xAI 在官方博客中這樣介紹：PromptIDE 是一個用于 prompt 工程和可解釋性研究的集成開發(fā)環(huán)境。它通過 SDK 加速 prompt 工程，并且該 SDK 可以完成復(fù)雜的 prompt 技術(shù)，還能進(jìn)行結(jié)果分析，可視化網(wǎng)絡(luò)輸出等。

值得注意的是，xAI 在 Grok 的開發(fā)中大量的使用了該技術(shù)。

借助 PromptIDE，工程師和研究人員可以透明的訪問 Grok-1 模型（為 Grok 提供支持的模型）。該 IDE 可以幫助用戶快速探索我們大模型 (LLM) 的功能。IDE 的核心是一個 Python 代碼編輯器，它與新的 SDK 相結(jié)合，可以實(shí)現(xiàn)復(fù)雜的 prompt 技術(shù)。在 IDE 中執(zhí)行 prompt 時，用戶會看到一些比較有用的分析，例如采樣概率、聚合注意力掩碼等。

該 IDE 會自動保存所有的 prompt 并具有內(nèi)置版本控制，還允許用戶比較不同 prompt 技術(shù)的輸出。最后，用戶可以上傳 CSV 文件等小文件，并使用 SDK 中的單個 Python 函數(shù)讀取它們。結(jié)合 SDK 的并發(fā)特性，即使是稍大的文件也能快速處理。

下面是 IDE 主要功能演示。

代碼編輯器 & SDK

PromptIDE 的核心是代碼編輯器 + Python SDK，其中 SDK 提供了一種新的編程范式，可以實(shí)現(xiàn)復(fù)雜的 prompting 技術(shù)。 

如上圖所示，用戶可以使用 prompt () 函數(shù)手動將 token 添加到上下文中，也可以使用 sample () 函數(shù)根據(jù)上下文生成 token。 

此外，多個 web worker 可以同時運(yùn)行，這意味著用戶可以并行執(zhí)行多個 prompt。

用戶也可以使用同一程序中的多個上下文來實(shí)現(xiàn)復(fù)雜的 prompting 技術(shù)。如果函數(shù)使用 @prompt_fn 裝飾器進(jìn)行注釋，則它將在自己的新上下文中執(zhí)行，該函數(shù)可以獨(dú)立于其父上下文執(zhí)行一些操作。這種編程范式支持具有任意嵌套子上下文的遞歸和迭代 prompts。

并發(fā)性：SDK 使用 Python 協(xié)程來并發(fā)處理多個帶 @prompt_fn 注釋的 Python 函數(shù)，從而加快時間進(jìn)程，尤其是在處理 CSV 文件時。

用戶輸入：Prompt 可以通過 user_input () 函數(shù)進(jìn)行交互。user_input () 函數(shù)返回用戶輸入的字符串，然后可以通過 prompt () 函數(shù)將其添加到上下文中。使用這些 API，只需四行代碼即可實(shí)現(xiàn)聊天機(jī)器人：

文件：開發(fā)人員可以將較小的文件上傳到 PromptIDE（每個文件最多 5 MiB，總共最多 50 MiB），并在 prompt 中使用他們上傳的文件。read_file () 函數(shù)以字節(jié)數(shù)組形式返回任何上傳的文件。這些與上面提到的并發(fā)特性結(jié)合起來，可以實(shí)現(xiàn)對 prompt 進(jìn)行批處理。

分析：在執(zhí)行 prompt 時，用戶會看到詳細(xì)的 token 分析，以幫助他們更好地理解模型的輸出。

當(dāng)用戶使用 user_input () 函數(shù)時，窗口中會顯示一個文本框，用戶可以在其中輸入響應(yīng)。下面的屏幕截圖顯示了執(zhí)行上面列出的聊天機(jī)器人代碼片段的結(jié)果。

最后，當(dāng)不需要對 token 進(jìn)行可視化時，還可以以 markdown 方式呈現(xiàn)上下文，以提高易讀性。