OpenGradient
OpenGradient 是一个去中心化的AI计算网络,能够提供全球可访问、无需许可且可验证的机器学习模型推理服务。
The OpenGradient langchain 包目前提供了一套工具包,允许开发人员为 OpenGradient 网络上的模型构建自己的自定义 ML 推断工具。这在过去是一个挑战,因为大型模型参数具有上下文窗口污染的性质——想象一下,你需要给你的代理一个 200x200 的浮点数据数组!
该工具包通过将所有数据处理逻辑封装在工具定义本身中来解决这个问题。这种方法保持了代理上下文窗口的清洁,同时给开发者完全的灵活性来为他们的机器学习模型实现自定义的数据处理和实时数据检索。
安装与设置¶
确保您拥有一个OpenGradient API密钥以访问OpenGradient网络。如果您已经有API密钥,只需设置环境变量:
!export OPENGRADIENT_PRIVATE_KEY="your-api-key"
如果您需要设置新的API密钥,请下载opengradient SDK并按照指示初始化新配置。
!pip install opengradient
!opengradient config init
设置完您的API密钥后,请安装langchain-opengradient包。
pip install -U langchain-opengradient
OpenGradient 工具包
The OpenGradientToolkit 使开发人员能够基于部署在 OpenGradient 去中心化网络上的 ML 模型 和 工作流 创建专业工具。这种集成使 LangChain 代理能够访问强大的 ML 能力,同时保持高效的内容使用。
关键优势
-
🔄 实时数据集成 - 在您的工具中处理实时数据流
-
🎯 动态处理 - 适应特定代理输入的自定义数据管道
-
🧠 上下文效率 - 在不淹没您的上下文窗口的情况下处理复杂的机器学习操作
-
🔌 紧凑部署 - 无缝集成到已存在于OpenGradient网络中的模型
-
🔧 全面自定义 - 通过 OpenGradient SDK 创建和部署您自己的特定模型,然后构建定制工具
-
🔐 可验证推理 - 所有推理均在去中心化的OpenGradient网络上运行,允许用户选择不同的安全级别(如ZKML和TEE),以实现无信任的可验证模型执行
要查看详细的示例和实现指南,请参阅我们的全面教程。