Skip to main content
Open In ColabOpen on GitHub

ChatOctoAI

OctoAI 提供了易于访问的高效计算资源，使用户能够将自己选择的人工智能模型集成到应用程序中。OctoAI 计算服务帮助您轻松地运行、调整和扩展人工智能应用。

这个笔记本演示了如何使用langchain.chat_models.ChatOctoAI来表示OctoAI端点。

设置​

要运行我们的示例应用，只需执行两个简单的步骤即可：

  1. 从您的OctoAI账户页面获取API令牌。

  2. 在代码单元格下方粘贴您的API密钥，或使用octoai_api_token关键字参数。

注：如果您想使用除可用模型以外的其他模型，可以通过遵循从 Python 构建一个容器和从容器创建自定义端点来自行容器化模型并制作一个自定义 OctoAI 端点，然后更新您的OCTOAI_API_BASE环境变量。

import os

os.environ["OCTOAI_API_TOKEN"] = "OCTOAI_API_TOKEN"
from langchain_community.chat_models import ChatOctoAI
from langchain_core.messages import HumanMessage, SystemMessage

示例​

chat = ChatOctoAI(max_tokens=300, model_name="mixtral-8x7b-instruct")
messages = [
    SystemMessage(content="You are a helpful assistant."),
    HumanMessage(content="Tell me about Leonardo da Vinci briefly."),
]
print(chat(messages).content)

Leonardo da Vinci (1452-1519) 是一位意大利通才，通常被认为是有史以来最伟大的画家之一。然而，他的天才远不止于此。他还是一位科学家、发明家、数学家、工程师、解剖学家、地质学家和制图师。

达·芬奇最著名的作品包括《蒙娜丽莎》、《最后的晚餐》和《岩间圣母》。他的科学研究超前于他的时代，其笔记本中包含了关于各种机械、人体解剖学以及自然现象的详细绘图和描述。

尽管达·芬奇从未接受过正式教育，但他无尽的好奇心和观察能力使他成为许多领域的先驱。他的作品至今仍继续激励着艺术家、科学家和思想家。