写作大型语言模型

Writer 是一个用于生成不同语言内容的平台。

该示例介绍了如何使用 LangChain 与 Writer 模型 进行交互。

设置

要访问Writer模型，您需要创建一个Writer账户，获取API密钥，并安装writer-sdk和langchain-community软件包。

Credentials

前往 Writer AI Studio 注册 OpenAI 并生成 API 密钥。完成此操作后，请设置 WRITER_API_KEY 环境变量：

import getpass
import os

if not os.environ.get("WRITER_API_KEY"):
    os.environ["WRITER_API_KEY"] = getpass.getpass("Enter your Writer API key:")

安装

LangChain Writer 集成位于 langchain-community 包中：

%pip install -qU langchain-community writer-sdk

[notice] A new release of pip is available: 24.2 -> 24.3.1
[notice] To update, run: pip install --upgrade pip
Note: you may need to restart the kernel to use updated packages.

现在我们可以初始化我们的模型对象，以与writer大语言模型（LLM）进行交互

from langchain_community.llms import Writer as WriterLLM

llm = WriterLLM(
    temperature=0.7,
    max_tokens=1000,
    # other params...
)

API 参考:作家

Invocation

response_text = llm.invoke(input="Write a poem")

print(response_text)

流式传输

stream_response = llm.stream(input="Tell me a fairytale")

for chunk in stream_response:
    print(chunk, end="")

Async

写入器通过 ainvoke() 和 astream() 方法支持异步调用

API 参考

要详细了解所有 Writer 功能的文档，请前往我们的 API 参考。

相关

• 大语言模型 概念指南
• LLM 操操作指南