超實用!Prompt程序員使用指南,大模型各角色代碼實戰案例
提示詞(Prompt)是輸入給大模型(LLM)的文本指令,用于明確地告訴大模型你想要解決的問題或完成的任務,也是大語言模型理解用戶需求并生成準確答案的基礎。因此 prompt 使用的好壞,直接決定了大模型生成結果的質量(是否符合預期)。
圖片
Prompt 基本使用
為了讓大模型生成更符合預期的結果,我們在使用 Prompt 時,可以使用以下模版。
圖片
其內容組成為:
- 背景:介紹與任務緊密相關的背景信息。這一環節有助于 LLM 深入理解討論的具體環境,從而保證其生成內容與話題高度相關。
- 目的:明確指出您期望 LLM 完成的具體任務。通過設定清晰、精確的目標指令,可引導 LLM 聚焦于實現既定任務,提升輸出的有效性。
- 風格:指定您希望 LLM 輸出的寫作風格,可以是某個具體名人、具體流派或者某類專家的寫作風格。
- 語氣:定義輸出內容應有的語氣,比如正式、詼諧、溫馨、關懷等,以便適應不同的使用場景和使用目的。
- 受眾:明確指出內容面向的讀者群體,無論是專業人士、入門學習者還是兒童等,這樣 LLM 就能調整語言和內容深度,使之更加貼合受眾需求。
- 輸出:規定輸出內容的具體形式,確保 LLM 提供的成果能直接滿足后續應用的需求,比如列表、JSON 數據格式、專業分析報告等形式。
以下為阿里云提供的 Prompt 案例:
圖片
在未使用 Prompt 模版時,LLM 輸出雖表現尚可,但顯得過于泛化,缺乏必要的細節和針對特定群體的吸引力。而在使用 Prompt 框架時,框架不僅提醒您考慮需求的其它方面,特別是一般 Prompt 中缺少的風格、語氣和受眾,還幫助 LLM 生成更針對年輕群體、細節更多、語言表達更加富有張力的輸出。
Prompt 優化工具
當然,我們也可以使用一些工具來進行 Prompt 優化,例如阿里云百煉平臺 Prompt 優化工具擴寫等,如下圖所示:
圖片
Prompt 發展演化
從程序的角度來看 Prompt 的發展演化經過了以下幾個階段:
- 簡單字符串:最初的 Prompt 只是簡單的文本字符串。
- 占位符:引入占位符(如 {USER})以動態插入內容。
- 多角色消息:將消息分為不同角色(如用戶、助手、系統等),增強交互的復雜性和上下文感知能力。
Spring AI Prompt 組成
以 Spring AI 中的 Prompt 來看,它的實現源碼如下:
public class Prompt implements ModelRequest<List<Message>> {
private final List<Message> messages;
private ChatOptions chatOptions;
}
Prompt 實現了 ModelRequest 接口,并且包含了 messages 和 chatOptions 屬性,其中:
- messages:包含多個 Message 對象,每個消息代表對話中的一個部分。
- chatOptions:配置選項,用于設置模型的某些屬性。
Message API 關系圖
Message 對象是 Content 的子類,Spring AI Message API 關系如下圖所示:
圖片
Prompt 角色分類
Prompt 中的主要角色(Role)包括以下幾個:
- 系統角色(System Role):設定 AI 行為邊界。指導 AI 的行為和響應方式,設置 AI 如何解釋和回復輸入的參數或規則。
- 用戶角色(User Role):接收用戶原始輸入。代表用戶的輸入他們向 AI 提出的問題、命令或陳述。這個角色至關重要,因為它構成了 AI 響應的基礎。
- 助手角色(Assistant Role):AI 返回的響應信息,定義為“助手角色”消息。用它可以確保上下文能夠連貫的交互。
- 工具/功能角色(Tool/Function Role):橋接外部服務,可以進行函數調用如,支付/數據查詢等操作。
角色在 Spring AI 枚舉中被定義,如下源碼所示:
public enum MessageType {
USER("user"),
ASSISTANT("assistant"),
SYSTEM("system"),
TOOL("tool");
// .....
}
系統和用戶角色使用
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping("/prompt")
publicclass PromptController {
privatefinal ChatClient chatClient;
public PromptController(ChatClient.Builder builder) {
this.chatClient = builder.build();
}
@RequestMapping("/system")
public String system(@RequestParam String city) {
String result = chatClient.prompt()
.system("你是一個旅行規劃助手")
.user(city)
.call()
.content();
System.out.println(result);
return result;
}
}
以上程序執行結果如下:
圖片
助手角色使用
AssistantMessage 助手消息類型可用于接收上次執行結果,并實現上下文連續對話,實現代碼如下:
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.messages.AssistantMessage;
import org.springframework.ai.chat.messages.Message;
import org.springframework.ai.chat.messages.UserMessage;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.ArrayList;
import java.util.List;
@RestController
@RequestMapping("/prompt")
publicclass PromptController {
privatefinal ChatClient chatClient;
//使用集合記錄消息歷史
List<Message> messages = new ArrayList<>();
public PromptController(ChatClient.Builder builder) {
this.chatClient = builder.build();
}
@RequestMapping("/assistant")
public String assistant(@RequestParam String msg) {
messages.add(new UserMessage(msg));
// 助手消息
AssistantMessage response = chatClient.prompt()
.messages(messages)
.call()
.chatResponse()
.getResult()
.getOutput();
messages.add(response);
return response.getText();
}
}
程序執行結果如下:
圖片
從結果可以看出,第二次交互是在第一次交互的基礎上執行的。
小結
除了 Prompt 以上內容之外,還有 PromptTemplate 以及 Prompt 使用技巧,例如為模型提供輸出樣例、設定完成任務步驟、使用思維鏈(Chain of Thought,COT)引導模型“思考”等具體技巧,咱們后期文章再慢慢聊。