使用 Instructor 进行跟踪（仅限 Python）

我们提供与 Instructor 的便捷集成，这是一个用于使用大语言模型生成结构化输出的流行开源库。

为了使用，您首先需要设置您的 LangSmith API 密钥。

export LANGSMITH_API_KEY=<your-api-key>

接下来，您需要安装 LangSmith SDK：

pip install -U langsmith

将您的 OpenAI 客户端包装在 langsmith.wrappers.wrap_openai 中

from openai import OpenAI
from langsmith import wrappers

client = wrappers.wrap_openai(OpenAI())

在此之后，您可以使用 instructor 修补包装后的 OpenAI 客户端：

import instructor

client = instructor.patch(client)

现在，您可以像往常一样使用 instructor，但现在所有内容都会记录到 LangSmith！

from pydantic import BaseModel


class UserDetail(BaseModel):
    name: str
    age: int


user = client.chat.completions.create(
    model="gpt-4o-mini",
    response_model=UserDetail,
    messages=[
        {"role": "user", "content": "Extract Jason is 25 years old"},
    ]
)

通常，你会在其他函数内部使用 instructor。 通过使用这个包装客户端并装饰这些函数为 @traceable，你可以获得嵌套的追踪结果。 有关如何使用 @traceable 装饰器注解代码以进行追踪的更多信息，请参阅 此指南。

# You can customize the run name with the `name` keyword argument
@traceable(name="Extract User Details")
def my_function(text: str) -> UserDetail:
    return client.chat.completions.create(
        model="gpt-4o-mini",
        response_model=UserDetail,
        messages=[
            {"role": "user", "content": f"Extract {text}"},
        ]
    )


my_function("Jason is 25 years old")