PromptLayer
PromptLayer 是一个用于提示工程的平台。 它还能帮助实现大语言模型(LLM)的可观测性,可视化请求、版本化提示语,并跟踪使用情况。
虽然
PromptLayer确实有直接与 LangChain 集成的大语言模型(例如PromptLayerOpenAI), 但使用回调是将PromptLayer与 LangChain 集成的推荐方式。
安装与设置¶
要使用 PromptLayer,我们必须:
- 创建一个
PromptLayer账户 - 创建一个API令牌并将其设置为环境变量 (
PROMPTLAYER_API_KEY)
安装一个 Python 包:
pip install promptlayer
回调
查看 使用示例。
import promptlayer # Don't forget this import!
from langchain.callbacks import PromptLayerCallbackHandler
API 参考:PromptLayer回调处理器
LLM
查看 使用示例。
from langchain_community.llms import PromptLayerOpenAI
API 参考:PromptLayerOpenAI
聊天模型
查看 使用示例。
from langchain_community.chat_models import PromptLayerChatOpenAI
API 参考:PromptLayer ChatOpenAI