Skip to main content
Open In Colab在 GitHub 上打开

SemaDB 数据库

SemaFind 的 SemaDB 是一个用于构建 AI 应用程序的轻松矢量相似性数据库。托管的SemaDB Cloud提供轻松的开发人员入门体验。

API 的完整文档以及示例和交互式 playground 可在 RapidAPI 上找到。

此笔记本演示了SemaDB Cloud向量存储。

您需要安装langchain-community跟pip install -qU langchain-community使用此集成

加载文档嵌入

为了在本地运行，我们使用了通常用于嵌入句子的 Sentence Transformers。您可以使用 LangChain 提供的任何嵌入模型。

%pip install --upgrade --quiet  sentence_transformers
from langchain_huggingface import HuggingFaceEmbeddings

model_name = "sentence-transformers/all-mpnet-base-v2"
embeddings = HuggingFaceEmbeddings(model_name=model_name)
from langchain_community.document_loaders import TextLoader
from langchain_text_splitters import CharacterTextSplitter

loader = TextLoader("../../how_to/state_of_the_union.txt")
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=400, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
print(len(docs))
114

连接到 SemaDB

SemaDB Cloud 使用 RapidAPI 密钥进行身份验证。您可以通过创建免费的 RapidAPI 帐户来获取您的帐户。

import getpass
import os

if "SEMADB_API_KEY" not in os.environ:
    os.environ["SEMADB_API_KEY"] = getpass.getpass("SemaDB API Key:")
SemaDB API Key: ········
from langchain_community.vectorstores import SemaDB
from langchain_community.vectorstores.utils import DistanceStrategy

SemaDB 向量存储的参数直接反映了 API：

  • “mycollection”： 是我们将在其中存储这些 vector 的集合名称。
  • 768：是向量的维度。在我们的例子中，句子变换器嵌入产生 768 个维度向量。
  • API_KEY： 是你的 RapidAPI 密钥。
  • embeddings：对应于文档、文本和查询的嵌入的生成方式。
  • DistanceStrategy：是使用的距离度量。如果使用 COSINE，包装器会自动对向量进行归一化。
db = SemaDB("mycollection", 768, embeddings, DistanceStrategy.COSINE)

# Create collection if running for the first time. If the collection
# already exists this will fail.
db.create_collection()
True

SemaDB 矢量存储包装器将文档文本添加为点元数据，以便稍后收集。不建议存储大块文本。如果要为大型集合编制索引，我们建议存储对文档的引用，例如外部 ID。

db.add_documents(docs)[:2]
['813c7ef3-9797-466b-8afa-587115592c6c',
 'fc392f7f-082b-4932-bfcc-06800db5e017']

我们使用默认的 LangChain 相似度搜索界面来搜索最相似的句子。

query = "What did the president say about Ketanji Brown Jackson"
docs = db.similarity_search(query)
print(docs[0].page_content)
And I did that 4 days ago, when I nominated Circuit Court of Appeals Judge Ketanji Brown Jackson. One of our nation’s top legal minds, who will continue Justice Breyer’s legacy of excellence.
docs = db.similarity_search_with_score(query)
docs[0]
(Document(page_content='And I did that 4 days ago, when I nominated Circuit Court of Appeals Judge Ketanji Brown Jackson. One of our nation’s top legal minds, who will continue Justice Breyer’s legacy of excellence.', metadata={'source': '../../how_to/state_of_the_union.txt', 'text': 'And I did that 4 days ago, when I nominated Circuit Court of Appeals Judge Ketanji Brown Jackson. One of our nation’s top legal minds, who will continue Justice Breyer’s legacy of excellence.'}),
 0.42369342)

收拾

您可以删除集合以删除所有数据。

db.delete_collection()
True