Skip to main content
Open on GitHub

Pipeshift

Pipeshift 是一个为开源 LLMs 的微调和推理平台

  • 你带入你的数据集。针对多个大语言模型进行微调。一键开始推理，它们会自动扩展到数百万规模。

安装与设置

  • 安装 Pipeshift 集成包。

    pip install langchain-pipeshift

  • 通过在Pipeshift注册获取您的Pipeshift API密钥。

身份验证​

您可以使用以下任一方式通过您的Pipeshift API密钥执行身份验证：

  1. 将API密钥添加到环境变量中作为 PIPESHIFT_API_KEY。

    os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"

  2. 通过向 pipeshift LLM 模块或聊天模块传递 api_key

    llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

                        OR

    chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

聊天模型​

查看一个 示例。

from langchain_pipeshift import ChatPipeshift

大型语言模型​

查看一个 示例。

from langchain_pipeshift import Pipeshift