产品经理学AI：搭建大模型应用常用的三种方式

如果开发想要基于某个大模型开发一个应用该怎么做？

一般有以下几种方式：

1、自己部署大模型

部署大模型，分为两种模式，一种是部署自研大模型，还有一种是部署开源大模型。

部署自研大模型的优势是，可以完全根据自己的业务需求和目标设计和开发模型，实现最大程度的定制化，满足独特的应用场景和用户需求。

如果成功研发出具有创新性和高性能的大模型，可以在市场上获得独特的竞争优势，为企业带来差异化的价值，比如openAI这家公司。

但缺点是研发成本太高，技术难度太高，一般是大公司才会做的选择。

我们再来看下部署开源大模型。开源模型一般是免费使用的，或者只需要较低的成本进行部署和维护，相比于自研大模型，这种方式成本更低些。

当然也可以根据自己的需求对模型进行定制和优化，包括修改模型结构、调整参数、训练模型等，以更好地满足特定应用场景的需求，

但是如果需要微调开源大模型的话，在训练模型这块，也是需要计算资源的。

总的来说，自己部署大模型对技术要求比较高，需要具备一定的深度学习和机器学习知识，还有相关的技术能力来安装、配置和优化模型。

所以有能力自研大模型的公司就对外提供了大模型API，让普通公司直接去调用大模型，极大提高了效率和降低了成本，我们继续往下看。

2、调用大模型API和结合langchain

为了盈利，很多生产大模型的公司会对外提供调用大模型的API，比如openAI有提供gpt-4的API调用，字节豆包也有提供豆包大模型的api调用，可按量计费或者包年包月计费。

平台提供的API大模型接口，请求参数一般是用户询问的问题和上下文，返回参数是大模型的回答内容。

仅使用大模型API，可以轻松实现一个简单应用，比如简单版聊天机器人，只需向 API 发送用户输入的文本，接收 API 返回的生成内容，并展示给用户，就能完成基本的交互功能。

比较简单的应用，是可以通过直接调用大模型API实现，但是对于复杂的应用，仅通过调用API是无法实现的。

比如，在多轮对话场景中，需要记录对话历史、根据特定条件引导对话流程等，仅使用 API 可能会使开发变得复杂。

所以对于复杂场景，可以结合langchain框架一起来开发。

什么是langchain呢？langchain是一个链式调用粘合剂。它是一个开源框架，它就像是一个调度中心，可以把各个组件和LLM大模型连接起来。

举个例子，比如我们要搭建一个chatGPT，需要实现与用户多轮会话的功能。

首先我们需要一个记录会话过程的存储组件， 其次我们还需要一个调用会话过程并把对话信息作为LLM上下文的连接组件。

这些组件，langchain都已经帮我们封装好了，只需要写少量代码来调用就可以。

要完成以上步骤，还是有些复杂的，所以为了更快速的搭建，搭建工作流的方式就应运而生了。

继续往下看。

3、搭建工作流

在讲工作流之前，我们先讲下Agent。什么是Agent呢，Agent的中文名是智能体，它是基于LLM大模型而搭建出的智能应用，比如宝宝长相预测助手、智能客服助手。

Agent和LLM大模型有什么不同？LLM大模型是Agent的组成部分，LLM 大模型为智能体提供强大的语言理解和生成能力。

为了快速搭建出一个智能应用，很多大公司推出了AI应用开发平台，比如字节的扣子平台，腾讯混元平台。

无论你是否有编程基础，都可以在这些平台上快速搭建基于大模型的各类 Agent，并将 Agent 发布到各个社交平台、通讯软件或部署到网站等其他渠道。

而快速搭建出一个Agent，是通过自定义搭建工作流的方式实现的。

下面以扣子平台为例来讲解。

对于比较简单的Agent，可以直接通过自然语言描述来直接生成，比如我想生成一个小红书创意写作助手，只需要提供角色、技能、限制条件就可以了。

但是对于稍微复杂点的Agent，还需要通过搭建工作流的方式来实现。

首先扣子平台封装了很多组件，比如豆包大模型组件、GPT大模型组件、处理输入文本组件、生成图像组件等等。

我们只需要定义好每个组件的输入和输出，像搭积木一样把它们拼起来，就可以生成一个Agent了，生成的Agent还可以发布到豆包应用商店、微信小程序直接使用，也可以把它发布为API，在我们的项目里面去调用。

可以说，通过搭建工作流的方式，是目前最高效的生产AI应用的方式。如果想要直接调用现成的大模型来快速搭建应用，这是挺不错的一种方式。

AI产品经理，0基础小白入门指南

作为一个零基础小白，如何做到真正的入局AI产品？

什么才叫真正的入局？

是否懂 AI、是否懂产品经理，是否具备利用大模型去开发应用能力，是否能够对大模型进行调优，将会是决定自己职业前景的重要参数。

你是否遇到这些问题：

1、传统产品经理

• 不懂Al无法对AI产品做出判断，和技术沟通丧失话语权
• 不了解 AI产品经理的工作流程、重点

2、互联网业务负责人/运营

• 对AI焦虑，又不知道怎么落地到业务中想做定制化AI产品并落地创收缺乏实战指导

3、大学生/小白

• 就业难，不懂技术不知如何从事AI产品经理想要进入AI赛道，缺乏职业发展规划，感觉遥不可及

为了帮助开发者打破壁垒，快速了解AI产品经理核心技术原理，学习相关AI产品经理，及大模型技术。从原理出发真正入局AI产品经理。

这里整理了一些AI产品经理学习资料包给大家

📖AI产品经理经典面试八股文
📖大模型RAG经验面试题
📖大模型LLMS面试宝典
📖大模型典型示范应用案例集99个
📖AI产品经理入门书籍
📖生成式AI商业落地白皮书

🔥作为AI产品经理，不仅要懂行业发展方向，也要懂AI技术，可以帮助大家：
✅深入了解大语言模型商业应用，快速掌握AI产品技能
✅掌握AI算法原理与未来趋势，提升多模态AI领域工作能力
✅实战案例与技巧分享，避免产品开发弯路

这份《AI产品经理学习资料包》已经上传CSDN，还有完整版的大模型 AI 学习资料，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】