提示模板
提示模板有助于将用户输入和参数转化为语言模型的指令。 这可以用来引导模型的响应,帮助它理解上下文,并生成相关且连贯的语言输出。
提示模板接受一个字典作为输入,其中每个键代表提示模板中的一个变量,用于填充。
提示模板输出一个 PromptValue。这个 PromptValue 可以传递给 LLM 或 ChatModel,也可以转换为字符串或消息列表。 创建 PromptValue 的原因是便于在字符串和消息之间进行切换。
提示模板有几种不同的类型:
字符串提示模板
这些提示模板用于格式化单个字符串,通常用于更简单的输入。 例如,构造和使用 PromptTemplate 的一种常见方式如下:
from langchain_core.prompts import PromptTemplate
prompt_template = PromptTemplate.from_template("Tell me a joke about {topic}")
prompt_template.invoke({"topic": "cats"})
ChatPromptTemplates
这些提示模板用于格式化消息列表。这些“模板”本身由一组模板组成。 例如,构造和使用 ChatPromptTemplate 的一种常见方式如下:
from langchain_core.prompts import ChatPromptTemplate
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("user", "Tell me a joke about {topic}")
])
prompt_template.invoke({"topic": "cats"})
在上面的例子中,当调用此 ChatPromptTemplate 时,它将构造两条消息。
第一条是系统消息,其中没有需要格式化的变量。
第二条是用户消息,将使用用户传入的 topic 变量进行格式化。
MessagesPlaceholder
此提示模板负责在特定位置添加消息列表。 在上面的 ChatPromptTemplate 中,我们看到了如何格式化两条消息,每条都是一段字符串。 但如果希望用户传入一个消息列表,并将其插入到特定位置呢? 这就是 MessagesPlaceholder 的用法。
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import HumanMessage
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
MessagesPlaceholder("msgs")
])
prompt_template.invoke({"msgs": [HumanMessage(content="hi!")]})
这将生成两条消息的列表,第一条是系统消息,第二条是我们传入的 HumanMessage。 如果我们传入了5条消息,那么总共就会生成6条消息(系统消息加上传入的5条)。 这在需要将一条消息列表插入到特定位置时非常有用。
另一种无需显式使用 MessagesPlaceholder 类来实现相同效果的方法是:
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("placeholder", "{msgs}") # <-- This is the changed part
])
有关如何使用提示模板的详细信息,请参阅 此处的相关操操作指南。