Skip to main content
在 GitHub 上打开

聊天记录

聊天历史记录是用户与聊天模型之间的对话记录。它用于在整个对话中维护上下文和状态。聊天历史记录是一系列消息,每条消息都与特定角色相关联,例如“用户”、“助手”、“系统”或“工具”。

对话模式

对话模式

大多数对话都以系统消息开始,该消息为对话设置上下文。接下来是包含用户输入的用户消息,然后是包含模型响应的助手消息

助手可以直接响应用户,或者如果配置了工具,则请求调用工具来执行特定任务。

完整的对话通常涉及两种交替消息模式的组合:

  1. 用户助手表示来回对话。
  2. 助手工具消息表示“代理”工作流,其中助手正在调用工具来执行特定任务。

管理聊天记录

由于聊天模型对输入大小有最大限制,因此管理聊天历史记录并根据需要对其进行修剪以避免超出上下文窗口非常重要。

在处理聊天记录时,必须保持正确的对话结构。

管理聊天记录的关键准则:

  • 对话应遵循以下结构之一:
    • 第一条消息是 “user” 消息或 “system” 消息,然后是 “user” 消息,然后是 “assistant” 消息。
    • 最后一条消息应该是包含工具调用结果的“user”消息或“tool”消息。
  • 使用工具调用时,“工具”消息应仅跟在请求工具调用的“助手”消息之后。
提示

了解正确的对话结构对于能够在聊天模型中正确实现内存至关重要。