Abso

Abso 是一个开源 LLM 代理，它根据提示复杂性自动在快速和慢速模型之间路由请求。它使用各种启发式方法来选择合适的模型。它速度非常快，延迟时间短。

安装和设置

pip install langchain-abso

聊天模型

在此处查看使用情况详细信息