Couchbase
Couchbase 是一款屡获殊荣的分布式 NoSQL 云数据库, 为您的所有云、移动、AI 和边缘计算应用提供无与伦比的灵活性、性能、可扩展性和财务价值。
安装与设置¶
我们必须安装 langchain-couchbase 软件包。
pip install langchain-couchbase
向量存储
查看 使用示例。
from langchain_couchbase import CouchbaseSearchVectorStore
文档加载器¶
查看 使用示例。
from langchain_community.document_loaders.couchbase import CouchbaseLoader
API 参考:CouchbaseLoader
LLM 缓存
CouchbaseCache
使用 Couchbase 作为提示和响应的缓存。
查看 使用示例。
导入此缓存:
from langchain_couchbase.cache import CouchbaseCache
要使用此缓存与您的 LLM:
from langchain_core.globals import set_llm_cache
cluster = couchbase_cluster_connection_object
set_llm_cache(
CouchbaseCache(
cluster=cluster,
bucket_name=BUCKET_NAME,
scope_name=SCOPE_NAME,
collection_name=COLLECTION_NAME,
)
)
API 参考:set_llm_cache
Couchbase语义缓存
语义缓存允许用户根据用户输入与之前缓存的输入之间的语义相似度来检索缓存的提示。其底层使用 Couchbase 同时作为缓存和向量存储。 CouchbaseSemanticCache 需要一个已定义的搜索索引才能工作。请查看 用法示例 以了解如何设置该索引。
查看 使用示例。
导入此缓存:
from langchain_couchbase.cache import CouchbaseSemanticCache
要使用此缓存与您的 LLM:
from langchain_core.globals import set_llm_cache
# use any embedding provider...
from langchain_openai.Embeddings import OpenAIEmbeddings
embeddings = OpenAIEmbeddings()
cluster = couchbase_cluster_connection_object
set_llm_cache(
CouchbaseSemanticCache(
cluster=cluster,
embedding = embeddings,
bucket_name=BUCKET_NAME,
scope_name=SCOPE_NAME,
collection_name=COLLECTION_NAME,
index_name=INDEX_NAME,
)
)
API 参考:set_llm_cache
ChatMessageHistory
使用 Couchbase 作为聊天消息的存储。
查看 使用示例。
要在您的应用程序中使用聊天消息历史记录:
from langchain_couchbase.chat_message_histories import CouchbaseChatMessageHistory
message_history = CouchbaseChatMessageHistory(
cluster=cluster,
bucket_name=BUCKET_NAME,
scope_name=SCOPE_NAME,
collection_name=COLLECTION_NAME,
session_id="test-session",
)
message_history.add_user_message("hi!")