开源模型应用落地-Qwen1.5-MoE-A2.7B-Chat与vllm实现推理加速的正确姿势（一）
一、前言
在人工智能技术蓬勃发展的当下，大语言模型的性能与应用不断突破边界，为我们带来前所未有的体验。Qwen1.5-MoE-A2.7B-Chat 作为一款备受瞩目的大语言模型，以其独特的架构和强大的能力，在自然语言处理领域崭露头角。而 vllm 作为高效的推理库，为模型的部署与推理提供了强有力的支持。在本篇文章中，将深入探讨 vllm 与 Qwen1.5-MoE-A2.7B-Chat 的整合。
二、术语
2.1. vLLM
vLLM是一个开源的大模型推理加速框架，通过PagedAttention高效地管理attention中缓存的张量，实现了比HuggingFace Transformers高14-24倍的吞吐量。
2.2. MoE（Mixture of Experts，混合专家模型）
是一种神经网络架构设计，核心思想是将一个复杂的任务分解为多个子任务，由不同的“专家”（即小型神经网络模块）分别处理，再通过一个“门控网络”（Gating Network）动态选择最相关的专家组合并整合结果。
-
特点：
-
<