Pipeshift

Pipeshift 是一个用于开源 LLM 的微调和推理平台

您带来了您的数据集。微调多个 LLM。一键开始推理，并观察它们扩展到数百万个。

安装和设置

安装 Pipeshift 集成包。
```
pip install langchain-pipeshift
```
通过在 Pipeshift 上注册来获取您的 Pipeshift API 密钥。

认证

您可以通过以下任一方式使用 Pipeshift API 密钥执行身份验证：

将 API 密钥添加到环境变量中，作为PIPESHIFT_API_KEY.
```
os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"
```

通过api_key到 pipeshift LLM 模块或 chat 模块

llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

                    OR

chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

聊天模型

请参阅示例。

from langchain_pipeshift import ChatPipeshift

LLM

请参阅示例。

from langchain_pipeshift import Pipeshift