作家 LLM
Writer 是一个生成不同语言内容的平台。
此示例介绍了如何使用 LangChain 与Writer 模型。
设置
要访问 Writer 模型,您需要创建一个 Writer 账户,获取 API 密钥,并安装writer-sdk和langchain-community包。
凭据
前往 Writer AI Studio 注册 OpenAI 并生成 API 密钥。完成此作后,设置 WRITER_API_KEY 环境变量:
import getpass
import os
if not os.environ.get("WRITER_API_KEY"):
os.environ["WRITER_API_KEY"] = getpass.getpass("Enter your Writer API key:")
安装
LangChain Writer 集成位于langchain-community包:
%pip install -qU langchain-community writer-sdk
[1m[[0m[34;49mnotice[0m[1;39;49m][0m[39;49m A new release of pip is available: [0m[31;49m24.2[0m[39;49m -> [0m[32;49m24.3.1[0m
[1m[[0m[34;49mnotice[0m[1;39;49m][0m[39;49m To update, run: [0m[32;49mpip install --upgrade pip[0m
Note: you may need to restart the kernel to use updated packages.
现在我们可以初始化模型对象以与 writer LLM 交互
from langchain_community.llms import Writer as WriterLLM
llm = WriterLLM(
temperature=0.7,
max_tokens=1000,
# other params...
)
API 参考:Writer
调用
response_text = llm.invoke(input="Write a poem")
print(response_text)
流
stream_response = llm.stream(input="Tell me a fairytale")
for chunk in stream_response:
print(chunk, end="")
异步
Writer 支持通过 ainvoke() 和 astream() 方法进行异步调用
API 参考
有关所有 Writer 功能的详细文档,请前往我们的 API 参考。