MLflow
MLflow 是一个多功能的开源平台,用于管理机器学习和生成式 AI 生命周期中的工作流和工件。它内置了许多流行的 AI 和 ML 库的集成,但也可与任何库、算法或部署工具配合使用。
MLflow的LangChain集成提供以下功能:
- 追踪: 通过一行代码可视化数据流经您的 LangChain 组件的过程 (
mlflow.langchain.autolog()) - 实验跟踪: 记录您的 LangChain 运行中的工件、代码和指标
- 模型管理: 跟踪依赖项并部署 LangChain 应用程序的版本
- 评估: 衡量您的 LangChain 应用的性能
注意: MLflow 追踪功能在 MLflow 2.14.0 及更高版本中可用。
本简短指南专注于 LangChain 和 LangGraph 应用的 MLflow 追踪功能。您将看到如何通过一行代码启用追踪,并查看应用的执行流程。有关 MLflow 其他功能的信息以及探索更多教程,请参阅 LangChain 的 MLflow 文档。如果您刚接触 MLflow,请查看 MLflow 入门指南。
设置
要开始使用 LangChain 的 MLflow 追踪功能,请安装 MLflow Python 包。我们还将使用 langchain-openai 包。
%pip install mlflow langchain-openai langgraph -qU
接下来,设置 MLflow 跟踪 URI 和 OpenAI API 密钥。
import os
# Set MLflow tracking URI if you have MLflow Tracking Server running
os.environ["MLFLOW_TRACKING_URI"] = ""
os.environ["OPENAI_API_KEY"] = ""
MLflow追踪
MLflow 的追踪功能可帮助您可视化 LangChain 应用程序的执行流程。以下是启用它的方法。
import mlflow
# Optional: Set an experiment to organize your traces
mlflow.set_experiment("LangChain MLflow Integration")
# Enable tracing
mlflow.langchain.autolog()
示例:追踪 LangChain 应用
这是一个展示使用 LangChain 进行 MLflow 追踪的完整示例:
import mlflow
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
# Enable MLflow tracing
mlflow.langchain.autolog()
# Create a simple chain
llm = ChatOpenAI(model_name="gpt-4o")
prompt = ChatPromptTemplate.from_messages(
[
(
"system",
"You are a helpful assistant that translates {input_language} to {output_language}.",
),
("human", "{input}"),
]
)
chain = prompt | llm | StrOutputParser()
# Run the chain
result = chain.invoke(
{
"input_language": "English",
"output_language": "German",
"input": "I love programming.",
}
)
要查看跟踪,请在终端中运行 mlflow ui 并导航到 MLflow UI 中的 Traces 标签页。
示例:追踪 LangGraph 应用
MLflow 也支持追踪 LangGraph 应用:
import mlflow
from langchain_core.tools import tool
from langgraph.prebuilt import create_react_agent
# Enable MLflow tracing
mlflow.langchain.autolog()
# Define a tool
@tool
def count_words(text: str) -> str:
"""Counts the number of words in a text."""
word_count = len(text.split())
return f"This text contains {word_count} words."
# Create a LangGraph agent
llm = ChatOpenAI(model="gpt-4o")
tools = [count_words]
graph = create_react_agent(llm, tools)
# Run the agent
result = graph.invoke(
{"messages": [{"role": "user", "content": "Write me a 71-word story about a cat."}]}
)
API 参考:工具 |create_react_agent
要查看跟踪,请在终端中运行 mlflow ui 并导航到 MLflow UI 中的 Traces 标签页。
资源
有关使用 MLflow 与 LangChain 的更多信息,请访问: