馬斯克版ChatGPT背后開發工具上線!xAI產品兩連發,網友:交付速度太瘋狂
馬斯克版ChatGPT才剛吸引一波眼球,xAI第二款大模型產品就突然登場了!
就在剛剛,馬斯克旗下xAI官宣:推出PromptIDE。
一個用于提示工程和可解釋性研究的集成開發環境。
xAI表示,他們打造PromptIDE的最初目的,是加速其聊天AI機器人Grok的開發——
根據官方透露的信息,剛剛開啟內測的Grok是xAI創始團隊11人爆肝2個月打造的。
而PromptIDE緊跟著Grok推出,如此快速的產品發布節奏,也讓網友們不由驚呼:
xAI團隊的交付速度太瘋狂了!
那么,PromptIDE具體有什么用?一起來看。
什么是PromptIDE
PromptIDE的主要功能包括:
- 用于提示工程的集成開發環境
- Python代碼編輯器和用于高級提示技術的SDK
- 可視化分析功能
先來看其核心組成部分,即Python代碼編輯器+SDK。
官方提到,基于SDK,用戶可以在PromptIDE里“優雅地”實現復雜的提示技術。
比如,使用prompt()函數手動將token添加到上下文中,或者使用sample()函數根據上下文生成token。
Python代碼解釋器是在單獨的Web Worker里運行的。多個Web Worker可以同時跑,也就是說,開發者可以并行執行多個提示。
另外,復雜提示技術還可以通過在同一個程序內使用多個上下文來實現。這套操作主要是通過@prompt_fn裝飾器來完成。
這樣做的好處是,能夠設計一些更具挑戰性對話實驗,讓聊天AI能理解和回答更加復雜的問題。
再來重點關注一下PromptIDE的可視化分析功能。
在執行提示時,用戶可以在這個IDE中看到詳細的token分析,也就是能更清楚地get模型到底在輸出些什么。
從上圖中可以看到,窗口會顯示上下文的精確分詞(tokenization)和每個token的數字標識符。
單擊token,還可以看到這個token更為詳細的分析信息。
其他方面,在PromptIDE中使用user_input()函數,界面中會彈出一個文本框,讓用戶能夠實現交互式提示。
這使得快速搭建一個聊天機器人成為可能,只需要四行代碼:
await prompt(PREAMBLE)
while text := await user_input("Write a message"):
await prompt(f"<|separator|>\n\nHuman: {text}<|separator|>\n\nAssistant:")
await sample(max_len=1024, stop_tokens=["<|separator|>"], return_attentinotallow=True)
另外,PromptIDE還支持上傳文件(每個文件最多5MiB,總大小不超過50MiB)。
更多細節,可以參考xAI官方博文。
簡單總結起來,正如馬斯克自己所說,PromptIDE是“幫助開發人員改進和理解大模型的工具”。
目前,已經嘗鮮Grok的盆友,也可以獲得PromptIDE的體驗資格。
這里再放一下Grok的體驗渠道:
- 有藍勾認證的賬號,可以到xAI官網排隊;
- 訂閱16美元/月的?? Premium+服務,內測結束后會開放使用。
參考鏈接:
[1]官方博文:https://x.ai/prompt-ide/。
[2]https://twitter.com/xai/status/1721568361883279850。