如何以编程方式管理数据集

您可以使用 Python 和 TypeScript SDK 以编程方式管理数据集。这包括创建、更新和删除数据集，以及向其中添加示例。

创建一个数据集

从值列表创建数据集

使用客户端创建数据集最灵活的方式是从输入列表和可选输出中创建示例。以下是示例。

请注意，您可以为每个示例添加任意元数据，例如注释或来源。元数据以字典形式存储。

批量示例创建

如果您有许多示例需要创建，请考虑使用 create_examples/createExamples 方法在单个请求中创建多个示例。如果仅创建一个示例，您可以使用 create_example/createExample 方法。

Python
TypeScript

from langsmith import Client

examples = [
{
  "inputs": {"question": "What is the largest mammal?"},
  "outputs": {"answer": "The blue whale"},
  "metadata": {"source": "Wikipedia"},
},
{
  "inputs": {"question": "What do mammals and birds have in common?"},
  "outputs": {"answer": "They are both warm-blooded"},
  "metadata": {"source": "Wikipedia"},
},
{
  "inputs": {"question": "What are reptiles known for?"},
  "outputs": {"answer": "Having scales"},
  "metadata": {"source": "Wikipedia"},
},
{
  "inputs": {"question": "What's the main characteristic of amphibians?"},
  "outputs": {"answer": "They live both in water and on land"},
  "metadata": {"source": "Wikipedia"},
},
]

client = Client()
dataset_name = "Elementary Animal Questions"

# Storing inputs in a dataset lets us
# run chains and LLMs over a shared set of examples.
dataset = client.create_dataset(
  dataset_name=dataset_name, description="Questions and answers about animal phylogenetics.",
)

# Prepare inputs, outputs, and metadata for bulk creation
client.create_examples(
  dataset_id=dataset.id,
  examples=examples
)

import { Client } from "langsmith";

const client = new Client();

const exampleInputs: [string, string][] = [
["What is the largest mammal?", "The blue whale"],
["What do mammals and birds have in common?", "They are both warm-blooded"],
["What are reptiles known for?", "Having scales"],
[
  "What's the main characteristic of amphibians?",
  "They live both in water and on land",
],
];

const datasetName = "Elementary Animal Questions";

// Storing inputs in a dataset lets us
// run chains and LLMs over a shared set of examples.
const dataset = await client.createDataset(datasetName, {
description: "Questions and answers about animal phylogenetics",
});

// Prepare inputs, outputs, and metadata for bulk creation
const inputs = exampleInputs.map(([inputPrompt]) => ({ question: inputPrompt }));
const outputs = exampleInputs.map(([, outputAnswer]) => ({ answer: outputAnswer }));
const metadata = exampleInputs.map(() => ({ source: "Wikipedia" }));

// Use the bulk createExamples method
await client.createExamples({
inputs,
outputs,
metadata,
datasetId: dataset.id,
});

从追踪记录创建数据集

要基于您的追踪（traces）的运行（spans）创建数据集，您可以采用相同的方法。有关如何获取和过滤运行的更多示例，请参阅导出追踪指南。以下是一个示例：

Python
TypeScript

from langsmith import Client

client = Client()
dataset_name = "Example Dataset"

# Filter runs to add to the dataset
runs = client.list_runs(
  project_name="my_project",
  is_root=True,
  error=False,
)

dataset = client.create_dataset(dataset_name, description="An example dataset")

# Prepare inputs and outputs for bulk creation
examples = [{"inputs": run.inputs, "outputs": run.outputs} for run in runs]

# Use the bulk create_examples method
client.create_examples(
  dataset_id=dataset.id,
  examples=examples
)

import { Client, Run } from "langsmith";
const client = new Client();

const datasetName = "Example Dataset";
// Filter runs to add to the dataset
const runs: Run[] = [];
for await (const run of client.listRuns({
projectName: "my_project",
isRoot: 1,
error: false,
})) {
runs.push(run);
}

const dataset = await client.createDataset(datasetName, {
description: "An example dataset",
dataType: "kv",
});

// Prepare inputs and outputs for bulk creation
const inputs = runs.map(run => run.inputs);
const outputs = runs.map(run => run.outputs ?? {});

// Use the bulk createExamples method
await client.createExamples({
inputs,
outputs,
datasetId: dataset.id,
});

从 CSV 文件创建数据集

在本节中，我们将演示如何通过上传 CSV 文件来创建数据集。

首先，请确保您的 CSV 文件格式正确，包含代表输入和输出键的列。这些键将在上传过程中用于正确映射您的数据。您可以为数据集指定可选的名称和描述；否则，将使用文件名作为数据集名称，且不提供任何描述。

Python
TypeScript

from langsmith import Client
import os

client = Client()

csv_file = 'path/to/your/csvfile.csv'
input_keys = ['column1', 'column2'] # replace with your input column names
output_keys = ['output1', 'output2'] # replace with your output column names

dataset = client.upload_csv(
  csv_file=csv_file,
  input_keys=input_keys,
  output_keys=output_keys,
  name="My CSV Dataset",
  description="Dataset created from a CSV file"
  data_type="kv"
)

import { Client } from "langsmith";

const client = new Client();

const csvFile = 'path/to/your/csvfile.csv';
const inputKeys = ['column1', 'column2']; // replace with your input column names
const outputKeys = ['output1', 'output2']; // replace with your output column names

const dataset = await client.uploadCsv({
  csvFile: csvFile,
  fileName: "My CSV Dataset",
  inputKeys: inputKeys,
  outputKeys: outputKeys,
  description: "Dataset created from a CSV file",
  dataType: "kv"
});

从 pandas DataFrame 创建数据集（仅限 Python）

Python 客户端提供了一个额外的便捷方法，用于从 pandas DataFrame 上传数据集。

from langsmith import Client
import os
import pandas as pd

client = Client()

df = pd.read_parquet('path/to/your/myfile.parquet')
input_keys = ['column1', 'column2'] # replace with your input column names
output_keys = ['output1', 'output2'] # replace with your output column names

dataset = client.upload_dataframe(
    df=df,
    input_keys=input_keys,
    output_keys=output_keys,
    name="My Parquet Dataset",
    description="Dataset created from a parquet file",
    data_type="kv" # The default
)

获取数据集

您可以使用 Python 和 TypeScript SDK 中的list_datasets/listDatasets方法，通过编程方式从 LangSmith 获取数据集。以下是一些常见调用。

前置条件

在运行以下代码片段之前，请先初始化客户端。

Python
TypeScript

from langsmith import Client

client = Client()

import { Client } from "langsmith";

const client = new Client();

查询所有数据集

Python
TypeScript

datasets = client.list_datasets()

const datasets = await client.listDatasets();

按名称列出数据集

如果您想通过确切名称进行搜索，可以执行以下操作：

Python
TypeScript

datasets = client.list_datasets(dataset_name="My Test Dataset 1")

const datasets = await client.listDatasets({datasetName: "My Test Dataset 1"});

如果您想要进行不区分大小写的子字符串搜索，请尝试以下方法：

Python
TypeScript

datasets = client.list_datasets(dataset_name_contains="some substring")

const datasets = await client.listDatasets({datasetNameContains: "some substring"});

按类型列出数据集

您可以按类型筛选数据集。下面是一个查询聊天数据集的示例。

Python
TypeScript

datasets = client.list_datasets(data_type="chat")

const datasets = await client.listDatasets({dataType: "chat"});

获取示例

您可以使用 Python 和 TypeScript SDK 中的 list_examples/listExamples 方法，通过编程方式从 LangSmith 获取示例。以下是一些常见调用。

前置条件

在运行以下代码片段之前，请先初始化客户端。

Python
TypeScript

from langsmith import Client

client = Client()

import { Client } from "langsmith";

const client = new Client();

列出数据集的所有示例

您可以按数据集 ID 进行筛选：

Python
TypeScript

examples = client.list_examples(dataset_id="c9ace0d8-a82c-4b6c-13d2-83401d68e9ab")

const examples = await client.listExamples({datasetId: "c9ace0d8-a82c-4b6c-13d2-83401d68e9ab"});

或者您可以按数据集名称进行过滤（这必须与您要查询的数据集名称完全匹配）

Python
TypeScript

examples = client.list_examples(dataset_name="My Test Dataset")

const examples = await client.listExamples({datasetName: "My test Dataset"});

按 ID 列出示例

您也可以按 ID 列出多个示例。

Python
TypeScript

example_ids = [
'734fc6a0-c187-4266-9721-90b7a025751a',
'd6b4c1b9-6160-4d63-9b61-b034c585074f',
'4d31df4e-f9c3-4a6e-8b6c-65701c2fed13',
]
examples = client.list_examples(example_ids=example_ids)

const exampleIds = [
"734fc6a0-c187-4266-9721-90b7a025751a",
"d6b4c1b9-6160-4d63-9b61-b034c585074f",
"4d31df4e-f9c3-4a6e-8b6c-65701c2fed13",
];
const examples = await client.listExamples({exampleIds: exampleIds});

按元数据列出示例

您也可以通过元数据筛选示例。下面是一个查询具有特定元数据键值对示例的示例。在底层，我们会检查示例的元数据是否包含您指定的键值对。

例如，如果您有一个元数据为 {"foo": "bar", "baz": "qux"} 的示例，那么 {foo: bar} 和 {baz: qux} 都会匹配，{foo: bar, baz: qux} 也会匹配。

Python
TypeScript

examples = client.list_examples(dataset_name=dataset_name, metadata={"foo": "bar"})

const examples = await client.listExamples({datasetName: datasetName, metadata: {foo: "bar"}});

按结构化过滤器列出示例

类似于您可以使用结构化过滤查询语言来获取运行记录，您也可以使用它来获取示例。

注意

目前仅在 Python SDK v0.1.83 及更高版本和 TypeScript SDK v0.1.35 及更高版本中提供。

此外，结构化过滤查询语言仅支持 metadata 个字段。

您可以使用 has 运算符来获取包含特定键值对的元数据字段的示例，并使用 exists 运算符来获取包含特定键的元数据字段的示例。此外，您还可以使用 and 运算符将多个过滤器链接在一起，并使用 not 运算符否定一个过滤器。

Python
TypeScript

examples = client.list_examples(
  dataset_name=dataset_name,
  filter='and(not(has(metadata, \'{"foo": "bar"}\')), exists(metadata, "tenant_id"))'
)

const examples = await client.listExamples({datasetName: datasetName, filter: 'and(not(has(metadata, \'{"foo": "bar"}\')), exists(metadata, "tenant_id"))'});

更新示例

更新单个示例

您可以使用 Python 和 TypeScript SDK 中的 update_example/updateExample 方法，通过编程方式从 LangSmith 更新示例。以下是一个示例。

Python
TypeScript

client.update_example(
  example_id=example.id,
  inputs={"input": "updated input"},
  outputs={"output": "updated output"},
  metadata={"foo": "bar"},
  split="train"
)

await client.updateExample(example.id, {
inputs: { input: "updated input" },
outputs: { output: "updated output" },
metadata: { "foo": "bar" },
split: "train",
})

批量更新示例

您还可以通过 Python 和 TypeScript SDK 中的 update_examples/updateExamples 方法，在单个请求中程序化地批量更新多个示例。下面是一个示例。

Python
TypeScript

client.update_examples(
  example_ids=[example.id, example_2.id],
  inputs=[{"input": "updated input 1"}, {"input": "updated input 2"}],
  outputs=[
      {"output": "updated output 1"},
      {"output": "updated output 2"},
  ],
  metadata=[{"foo": "baz"}, {"foo": "qux"}],
  splits=[["training", "foo"], "training"] # Splits can be arrays or standalone strings
)

await client.updateExamples([
{
  id: example.id,
  inputs: { input: "updated input 1" },
  outputs: { output: "updated output 1" },
  metadata: { foo: "baz" },
  split: ["training", "foo"] // Splits can be arrays or standalone strings
},
{
  id: example2.id,
  inputs: { input: "updated input 2" },
  outputs: { output: "updated output 2" },
  metadata: { foo: "qux" },
  split: "training"
},
])

如何以编程方式管理数据集

创建一个数据集

从值列表创建数据集

从追踪记录创建数据集

从 CSV 文件创建数据集

从 pandas DataFrame 创建数据集（仅限 Python）

获取数据集

查询所有数据集

按名称列出数据集

按类型列出数据集

获取示例

列出数据集的所有示例

按 ID 列出示例

按元数据列出示例

按结构化过滤器列出示例

更新示例

更新单个示例

批量更新示例

此页面有帮助吗？

您可以留下详细的反馈在 GitHub 上。

创建一个数据集​

从值列表创建数据集​

从追踪记录创建数据集​

从 CSV 文件创建数据集​

从 pandas DataFrame 创建数据集（仅限 Python）​

获取数据集​

查询所有数据集​

按名称列出数据集​

按类型列出数据集​

获取示例​

列出数据集的所有示例​

按 ID 列出示例​

按元数据列出示例​

按结构化过滤器列出示例​

更新示例​

更新单个示例​

批量更新示例​

此页面有帮助吗？

您可以留下详细的反馈 在 GitHub 上。

创建一个数据集

从值列表创建数据集

从追踪记录创建数据集

从 CSV 文件创建数据集

从 pandas DataFrame 创建数据集（仅限 Python）

获取数据集

查询所有数据集

按名称列出数据集

按类型列出数据集

获取示例

列出数据集的所有示例

按 ID 列出示例

按元数据列出示例

按结构化过滤器列出示例

更新示例

更新单个示例

批量更新示例

您可以留下详细的反馈在 GitHub 上。