AI大模型开发架构设计（14）——基于LangChain大模型的案例架构实战

基于LangChain大模型的案例架构实战

1 LangChain 顶层架构设计以及关键技术剖析

LangChain 是什么?

• LangChain是一个用于开发基于语言模型应用的框架
  • 基于上下文
  • 推理

LangChain的主要功能是什么？

• Components（组件）：Model I/O、 Retrieval（检索）、Chains、 Memory（记忆）、Agents、Callbacks.
• Off-the-shelf chains（现成的链）：a structured assembly of components for accomplishing specific higher-level tasks.

LangChain 顶层架构设计

LangChain 典型使用场景：QA 问答系统

LangChain 顶层架构设计之 Model I/O

Model I/O三个组成

• Prompts：主要管理、协助构建送入 Model 的输入
• Language Modes：用何种 Model
• Output parsers：解析输出结果

LangChain 顶层架构设计之 Retrieval

Retrieval (Data Connection)组成

• Many LLM applications require user-specific data that is not part of the model’s training set. The primary way of accomplishing this is through Retrieval Augmented Generation (RAG).

• LangChain 核心组成：数据链路（Data Connection）模块——Load

• LangChain 核心组成：数据链路（Data Connection）模块——Transform

• LangChain 核心组成：数据链路（Data Connection）模块——Embed

• LangChain 核心组成：数据链路（Data Connection）模块——Embed-相识度核心原理（“向量”距离）

• LangChain 核心组成：数据链路（Data Connection）模块——Vector Store

• LangChain 核心组成：记忆（Memory）模块，针对多轮对话强相关

• LangChain 架构设计以及运作方式，对于 IT人来说是一项非常重要的技能，它可以让您的 LLM 业务研发更高效和创新。

2 基于 LangChain 的 LLM 应用架构揭秘

基于 LangChain 的 LLM 应用场景

基于 LangChain 的 LLM 应用架构设计

• 1、企业级真实实战案例一：企业知识库应用架构设计与实践
• 2、企业级真实实战案例二：AutoGPT 应用架构设计与实践
• 3、企业级真实实战案例三：AI 翻译助手应用架构设计与实践
• 4、企业级真实实战案例四：AI Agents 实战:Google Search + LLM
• 5、企业级真实实战案例五：ReAct 实战:SerpAPI + LLM-MATH
• 6、大模型微调实战、大模型向量数据库实战等等