Skip to main content
Open In ColabOpen on GitHub

PromptLayer

PromptLayer 是一个用于提示工程的平台。它还能帮助实现大语言模型的可观测性，可视化请求、版本化提示语，并跟踪使用情况。

虽然 PromptLayer 确实有与 LangChain 直接集成的 LLM（例如 PromptLayerOpenAI），但推荐使用回调的方式来将 PromptLayer 与 LangChain 集成。

在本指南中，我们将介绍如何设置 PromptLayerCallbackHandler。

有关更多信息，请参见PromptLayer 文档。

安装与设置

%pip install --upgrade --quiet  langchain-community promptlayer --upgrade

获取 API 凭据​

如果您没有 PromptLayer 账户，请在 promptlayer.com 上注册一个。然后，点击导航栏中的设置齿轮图标获取 API 密钥，并将其设置为名为 PROMPTLAYER_API_KEY 的环境变量

用法​

使用 PromptLayerCallbackHandler 开始非常简单，它接受两个可选参数：

  1. pl_tags - 在 PromptLayer 上将被作为标签跟踪的可选字符串列表。
  2. pl_id_callback - 一个可选函数，将接收 promptlayer_request_id 作为参数。此 ID 可与 PromptLayer 的所有跟踪功能结合使用，以追踪元数据、评分和提示使用情况。

简单OpenAI示例​

在这个简单示例中，我们使用 PromptLayerCallbackHandler 和 ChatOpenAI。我们添加了一个名为 chatopenai 的 PromptLayer 标签

import promptlayer  # Don't forget this 🍰
from langchain_community.callbacks.promptlayer_callback import (
    PromptLayerCallbackHandler,
)
from langchain_core.messages import HumanMessage
from langchain_openai import ChatOpenAI

chat_llm = ChatOpenAI(
    temperature=0,
    callbacks=[PromptLayerCallbackHandler(pl_tags=["chatopenai"])],
)
llm_results = chat_llm.invoke(
    [
        HumanMessage(content="What comes after 1,2,3 ?"),
        HumanMessage(content="Tell me another joke?"),
    ]
)
print(llm_results)

GPT4All 示例​

from langchain_community.llms import GPT4All

model = GPT4All(model="./models/gpt4all-model.bin", n_ctx=512, n_threads=8)
callbacks = [PromptLayerCallbackHandler(pl_tags=["langchain", "gpt4all"])]

response = model.invoke(
    "Once upon a time, ",
    config={"callbacks": callbacks},
)
API 参考:GPT4All

在这个示例中，我们释放了 PromptLayer 更多的强大功能。

PromptLayer 允许您通过可视化方式创建、版本化和跟踪提示模板。使用提示注册表，我们可以以编程方式获取名为example的提示模板。

我们还定义了一个 pl_id_callback 函数，该函数接收 promptlayer_request_id 并记录分数、元数据以及所使用的提示模板链接。在我们的文档中阅读有关跟踪的更多信息。

from langchain_openai import OpenAI


def pl_id_callback(promptlayer_request_id):
    print("prompt layer id ", promptlayer_request_id)
    promptlayer.track.score(
        request_id=promptlayer_request_id, score=100
    )  # score is an integer 0-100
    promptlayer.track.metadata(
        request_id=promptlayer_request_id, metadata={"foo": "bar"}
    )  # metadata is a dictionary of key value pairs that is tracked on PromptLayer
    promptlayer.track.prompt(
        request_id=promptlayer_request_id,
        prompt_name="example",
        prompt_input_variables={"product": "toasters"},
        version=1,
    )  # link the request to a prompt template


openai_llm = OpenAI(
    model_name="gpt-3.5-turbo-instruct",
    callbacks=[PromptLayerCallbackHandler(pl_id_callback=pl_id_callback)],
)

example_prompt = promptlayer.prompts.get("example", version=1, langchain=True)
openai_llm.invoke(example_prompt.format(product="toasters"))
API 参考:OpenAI

这就是全部所需！设置完成后，您所有的请求都会显示在 PromptLayer 仪表板上。 此回调还适用于 LangChain 上实现的任何 LLM。