2024年企业中生成式 AI 的现状报告

从试点到生产，企业 AI 格局正在被实时改写。我们对 600 名美国企业 IT 决策者进行了调查，以揭示新兴的赢家和输家。

从试点到生产

2024 年标志着生成性人工智能成为企业关键任务的一年。这些数字讲述了一个戏剧性的故事：今年人工智能支出飙升至 138 亿美元，是 2023 年 23 亿美元支出的 6 倍多 —— 这是一个明确的信号，表明企业正在从实验转向执行，将人工智能嵌入其业务战略的核心。

支出的激增反映了组织乐观的浪潮；72% 的决策者预计在不久的将来会更广泛地采用生成式人工智能工具。这种信心不仅仅是推测性的 —— 生成式人工智能工具已经深深植根于专业人士的日常工作中，从程序员到医疗保健提供者。

尽管有这种积极的前景和不断增加的投资，许多决策者仍在弄清楚什么对他们的企业有用，什么没用。超过三分之一的受访者对生成性人工智能将如何在他们的组织中实施没有明确的愿景。这并不意味着他们没有方向地投资；这只是强调我们仍处于大规模转型的早期阶段。企业领导者刚刚开始理解生成性人工智能将对他们的组织产生的深远影响。

去年，我们在《企业报告》中的《2023 年生成人工智能状况》捕捉到了一段早期人工智能实验的时期。我们的 2024 年报告扩展到包括 600 名美国企业领导者的见解，揭示了随着组织从试点转向生产而出现的趋势，使人工智能成为企业的当务之急。

生成式AI的支出表明企业的投入在增长

如今，60% 的企业生成性人工智能投资来自创新预算，反映了生成性人工智能采用的早期阶段。然而，40% 的生成性人工智能支出来自更长期的预算 —— 其中 58% 来自现有分配 —— 企业对人工智能转型的投入越来越大。

The message is clear. Generative AI is transitioning from a future technology to a fundamental business tool.

虽然基础模型投资仍然主导着企业生成性人工智能支出，但应用层现在增长更快，受益于基础设施层面的整合设计模式。公司正在通过使用这些工具优化跨部门的工作流程来创造巨大价值，为更广泛的创新铺平道路。

在以下部分中，我们将探讨企业生成式 AI 采用的两个关键维度

• 应用层，第一次突破正在出现，新领域市场正在为初创企业展开。
• 现代人工智能技术栈，LLM 军备竞赛正在重塑竞争格局，特定的基础设施模式正在获得广泛采用。

在应用上深度挖掘：应用层正变得火热

2024 年，大部分行动发生在应用层。随着许多架构设计模式的建立，应用层公司正在利用 LLM 跨领域的能力来释放新的效率和能力。企业买家正在抓住时机，在 2024 年向生成性人工智能应用投入 46 亿美元，比去年报告的 6 亿美元增加了近 8 倍。

公司不仅支出更多；他们的想法也更宏大。平均而言，组织已经确定了这一变革性技术的 10 个潜在用例，表明了广泛而雄心勃勃的目标。其中近四分之一（24%）被优先用于近期实施，突显了实际部署的强劲势头。这只是开始。大多数公司仍处于采用的早期阶段，只有少数用例在生产中，而其中三分之一仍在原型设计和评估中（33%）。

企业内部：对最有价值的用例进行排名

尽管正在进行实验，但明确的采用趋势表明，一部分用例已经通过提高生产力或运营效率来提供切实的投资回报率：

• Code copilots 以 51% 的采用率领先，使开发人员成为人工智能最早的高级用户。GitHub Copilot 快速上升到 3 亿美元的年营收运转率验证了这一轨迹，而 Codeium 和 Cursor 等新兴工具也在快速增长。除了一般的编码助手之外，企业还购买了特定任务的copilots，如用于管道生成和测试自动化的 Harness’AI 运营模式工程师和 QA 助手，以及能够执行更多端到端软件开发的 All Hands等 AI agents 。
• Support chatbots 支持聊天机器人已经获得了大量使用，31% 的企业采用率。这些应用程序为内部员工和外部客户提供可靠的、24/7 的、基于知识的支持。Aisera、*Decagon 和 Sierra 的代理直接与最终客户互动，而Observe AI支持联络中心代理在通话期间提供实时指导。
• 企业搜索+检索 和 数据提取 + 转换 （分别占28%和27%），展现了强大的驱动力去解锁和挖掘隐藏在偏器角落里疏于整理的知识的潜在价值。Gleans 和 Sana 等解决方案连接到电子邮件、信息和文档存储 - 支持跨不同系统的统一语义搜索并提供人工智能驱动的知识管理。
• 会议摘要在用例中排名第五（采用率为 24%），通过自动化笔记和打包来节省时间并提高生产力。Fireflies.ai、Otter.ai 和 Sana 等工具捕获和总结在线会议，而 Fathom 从视频中提取关键点。Eleos Health 将这一创新应用于医疗保健，自动化留档时间并直接与 EHR 集成，以便医疗保健提供者能够专注于患者护理。

我们的数据显示，机构主要投资于实用的、投资回报率驱动的用例。排名前五的用例（代码生成、聊天机器人、企业搜索、数据转换和会议摘要）侧重于提高生产力和效率。

代理和自动化：AI掌握着方向盘

当前的实施模式表明，人们更倾向于增强人类工作流程，而不是完全自动化。但我们现在正接近向更自主的解决方案过渡。能够独立管理复杂的端到端流程的人工智能驱动代理的早期例子正在各行各业出现。金融后台工作流程的先驱，如 Forge 和 Sema4，以及 Clay 的上市工具，展示了完全自主的生成式人工智能系统如何改变传统上由人类主导的行业，指向未来的 “Services-as-Software” 时代，在这个时代，人工智能驱动的解决方案提供传统服务提供商的能力，但完全通过软件运行。

构建与购买？逐案方法

在决定构建或购买时，公司表现出近乎平衡的分裂： 47% 的解决方案是内部开发的，而 53% 来自供应商。这与 2023 年相比是一个明显的转变，当时我们报告说 80% 的企业依赖第三方生成人工智能软件 —— 这表明许多企业越来越有信心和能力建立自己的内部人工智能工具，而不是主要依赖外部供应商。

长期游戏：企业在生成式 AI 采用中优先考虑价值而不是快速获胜

在选择生成性人工智能应用时，企业有明确的优先事项：在选择新工具时，投资回报和行业特定的定制最重要。令人惊讶的是，价格并不是一个主要问题；在我们调查的企业领导者中，只有 1% 提到价格是一个选择问题。买家在玩长期游戏：他们更关注能够提供可衡量价值（30%）和理解其工作独特背景（26%）的工具，而不是那些提供最低价格标签（1%）的工具。

尽管企业在 ROI（投资回报率） 和定制方面尽职尽责，但他们可能会错过实施难题的关键部分。通常，机构发现他们低估了技术集成、持续支持和可扩展性的重要性为时已晚。这有点像仅仅基于燃油效率购买汽车，后来才意识到服务可用性和易于维护在长期内同样重要。

当人工智能工具口吃或停滞不前时，通常是由于在选择过程中没有充分考虑到挑战。尽管买家没有检查价格标签，但 26% 失败的工具提到的实施成本经常让他们措手不及。数据隐私障碍（21%）和令人失望的投资回报率（ROI）（18%）也让工具偏离了轨道。技术问题，尤其是围绕幻觉（15%），是失败的主要原因。在规划和选择阶段主动解决这些潜在陷阱可以增加成功实施的可能性。

固定与突破：现有企业更容易受到启动中断的影响

去年，老牌企业通过将生成性 AI 功能分层到现有产品上的 “附加” 战略主导了企业市场。我们预测初创企业将日益取得进展，今年的数据验证了我们的想法：尽管 64% 的客户仍然更喜欢从老牌供应商那里购买，理由是信任和开箱即用的功能，但老牌主导地位开始出现裂缝。我们的数据揭示了日益增长的不满：18% 的决策者对老牌产品表示失望；而 40% 的人质疑他们当前的解决方案是否真正满足他们的需求，这标志着创新初创企业有机会介入并坚持他们的主张。

逐个部门进行转型

今天采用生成式人工智能的惊人之处不仅仅是规模 —— 而是范围。今年，生成式人工智能预算流向了每个部门。

毫不奇怪，技术部门占据了最大的支出份额，信息技术（22%）、产品 + 工程（19%）和数据科学（8%）合计占所有企业生成性人工智能投资的近一半。其余预算分布在面向客户的职能部门，如支持（9%）、销售（8%）和营销（7%），包括人力资源和财务（各 7%）在内的后台团队，以及较小的部门，如设计（6%）和法律（3%）。

垂直人工智能应用的兴起

第一个生成式 AI 应用程序是用于文本和图像生成的水平解决方案，但 2024 年看到越来越多的应用程序在将 LLM 的新功能应用于高度特定领域的垂直工作流程方面找到了吸引力。以下垂直领域正在引领采用：

• 医疗保健：传统上采用技术缓慢，医疗保健现在以 5 亿美元的企业支出引领生成性人工智能的采用。像 Abridge、Ambience、Heidi 和 Eleos Health 这样的环境抄写员正在成为医生办公室的主要内容，而自动化解决方案正在整个临床生命周期中出现 —— 从分诊和摄入（例如 Notable）到编码（例如 SmarterDx、Codametrix）和收入周期管理（例如 Adonis、铆钉 *）。
• 法律：法律行业（企业人工智能支出 3.50 亿美元）历史上抵制技术，现在正在采用生成式人工智能来管理大量非结构化数据和自动化复杂的基于模式的工作流程。该领域大致分为诉讼和交易法，有许多子专业。Everlaw植根于诉讼，专注于法律保留、电子发现和审判准备，而 Harvey 和 Spellbook 正在交易法中推进人工智能，为合同审查、法律研究和并购提供解决方案。特定的实践领域也有针对性的人工智能创新：EvenUp 专注于伤害法，Garden 专注于专利和知识产权，Manifest 专注于移民和就业法，而 Eve正在重新发明从客户接收到解决的原告案例工作。
• 金融服务：凭借其复杂的数据、严格的法规和关键的工作流程，金融服务（企业 AI 支出的 1 亿美元）已经为 AI 转型做好了准备。Numery和 Klarity 等初创公司正在彻底改变会计，而 Arkifi 和 Rogo 通过高级数据提取加速金融研究。Arch正在使用 AI 来破坏 RIA 和投资基金的后台流程。Orby 和 Sema4 是更广泛的横向解决方案，从对账和报告开始，而 Greenlite 和 Norm AI 提供实时合规监控，以跟上不断变化的法规。
• 媒体和娱乐：从好莱坞银幕到创作者的智能手机，生成式人工智能正在重塑媒体和娱乐（企业人工智能支出 1 亿美元）。像 Runway 这样的工具现在是工作室级的主要产品，而像 Captions 和 Descript 这样的应用程序赋予独立创作者权力。像黑森林实验室、希格斯菲尔德、*Ideogram、中途和皮卡这样的平台为专业人士推动了图像和视频创作的界限。

深入探讨：基础设施和现代AI技术栈

经过一年的快速发展，现代 AI 技术栈 在 2024 年稳定下来，企业围绕构成大多数生产 AI 系统运行时架构的核心构建块进行合并。

基础模型仍然占主导地位。LLM 层要求 65 亿美元的企业投资。然而，通过反复试验，企业越来越理解数据脚手架和集成在构建复杂的复合人工智能架构方面的重要性，这些架构可以在生产中可靠地执行，而不仅仅是一次性演示。

LLM的趋势：随着OpenAI让位于Anthropic，多模型策略盛行

Anthropic 是OpenAI GPT3 研发负责人的创业项目，Anthropic 被视为最能与 OpenAI 抗衡的一家创业公司。Anthropic 发布了一组 Claude 3 系列大模型，称其功能最强大的模型在各种基准测试中均优于 OpenAI 的 GPT-4 和 Google 的 Gemini 1.0 Ultra。

企业不再依赖单一提供商，而是采用了务实的多模型方法。我们的研究表明，机构通常会在其 AI 堆栈中部署三个或更多基础模型，根据用例或结果路由到不同的模型。这一策略延伸到 open-versus-closed-source 辩论，尽管行业讨论激烈，但偏好仍然保持稳定。闭源解决方案以 81% 的市场份额支撑了绝大多数使用，而开源替代方案（由 Meta 的 Llama 3 领导）稳定在 19%，仅比 2023 年下降一个百分点。

在闭源模型中，OpenAI 的先发优势有所削弱，企业市场份额从 50% 下降到 34%。主要受益者是 Anthopic，当新模型成为最先进的时，一些企业从 GPT-4 转向 Claude 3.5 Sonnet，从而将其企业影响力从 12% 翻了一番，达到 24%。当转向新的 LLM 时，机构最常引用安全和安全考虑（46%）、价格（44%）、性能（42%）和扩展功能（41%）作为动机。

基础模型领域继续快速发展。Anthopic 于 2024 年 10 月 22 日发布了 Claude 3.5 Sonnet，具有突破性的功能，包括计算机使用，这表明市场份额可能会进一步增加。

设计模式趋势：RAG 增加、Fine Tuning罕见、Agents爆发

企业人工智能设计模式 —— 用于构建高效、可扩展人工智能系统的标准化架构 —— 正在迅速发展。RAG（检索 - 增强生成）现在以 51% 的采用率占据主导地位，比去年的 31% 大幅上升。与此同时，微调 —— 经常被吹捧，尤其是在领先的应用程序提供商中 —— 仍然令人惊讶地罕见，只有 9% 的生产模型被微调。

今年最大的突破？代理架构首次亮相，已经为 12% 的实现提供了动力。

Vector Databases, ETL, and Data Pipelines: The Foundations of RAG

为了支持 RAG，企业必须有效地存储和访问相关查询知识。虽然 Postgres（15%）和 MongoDB（14%）等传统数据库仍然很常见，但 AI 优先解决方案继续取得进展。Pinecone 是一个 AI 原生矢量数据库，已经占据了 18% 的市场份额。data ETL/preparation 领域也发生了类似的转变。传统 ETL 平台（例如 Azure Document Intelligence）仍占部署的 28%，但 Unstructured 等专门工具旨在处理 PDF 和超文本标记语言等文档中非结构化数据的细微差别，正在开拓自己的空间，拥有 16% 的市场份额。在整个技术栈中，我们看到了对专为满足现代 AI 需求而构建的技术的需求。

我们预测

2024 年是转型和演变的一年，我们在 2023 年记录的炒作浪潮让位于现实世界的实施。根据我们今天分享的数据和我们作为投资者观察到的趋势，我们对未来有三个预测：

• Agents 将推动下一波转型。

  代理自动化将推动下一波人工智能转型，解决复杂的多步骤任务，这些任务超出了当前专注于内容生成和知识检索的系统的能力。像Clay和Forge这样的平台预示着高级代理将如何扰乱 4000 亿美元的软件市场，并蚕食 10 万亿美元的美国服务经济。这种转变将需要新的基础设施：代理身份验证、工具集成平台、人工智能浏览器框架和人工智能生成代码的专用运行时。

• 大卫击败歌利亚：更多的现任者倒下。

  ChatGPT 今年对Chegg和Stack Overflow的颠覆是一个警钟：Chegg 85% 的市值消失了，而Stack Overflow的网络流量减半了。其他类别的颠覆时机已经成熟。像 Cognizant 这样的信息技术外包公司和像 UiPath 这样的传统自动化公司应该为人工智能原生挑战者进入他们的市场做好准备。随着时间的推移，即使是像 Salesforce 和 Autodesk 这样的软件巨头也将面临人工智能原生挑战者。

• 看不到任何缓解：人工智能人才荒加剧。

  我们正处于大规模人才枯竭的边缘。随着人工智能系统的激增和变得更加复杂，科技行业将面临严重的稀缺。这不仅仅是数据科学家的短缺，也是能够将先进的人工智能能力与特定领域专业知识联系起来的专家的关键缺口。人才库已经低得危险。为激烈的竞争和已经高薪的人工智能技能企业架构师 2-3 倍的工资溢价做好准备将成为常态。尽管投资于培训项目和人工智能卓越中心，但这一差距将超过这些努力，加剧对推动下一波人工智能创新所需的有限人才的激烈竞争。

这仅仅是开始

人工智能正在为一个由尖端人工智能工具、赋权劳动力和变革性商业模式驱动的变革新时代铺平道路，这些变革将重塑我们的经济。我们在我们的投资组合中亲眼目睹了这种转变：

• 人工智能使诺贝尔奖获得者、Vilya 和 Xaira Therapeutics 的联合创始人大卫・贝克能够通过计算生成新的潜在药物，并预测其结构和功能，帮助加速为有需要的患者开发新的救命疗法。
• 人工智能使大陆、米其林和雀巢等制造商能够捕捉部落知识并维持高标准的工厂工作。使用斜视，他们将教学材料转化为沉浸式增强现实体验，提供实时、分步的指导和验证，以增强安全性、减少操作员错误并确保一致的吞吐量。
• 人工智能使公司能够更快、更可靠地识别顶尖工程人才，通过自动化编码评估、个性化问题难度和检测剽窃，使用 CodeSignal 以更高的准确性和效率评估技术技能。
• 人工智能使异常安全能够保护企业免受网络钓鱼和商业电子邮件诈骗等复杂的电子邮件威胁，通过检测异常并在攻击造成伤害之前阻止攻击，每年防止高达 400 万美元的潜在损失。
• 人工智能使各行各业的财富 500 强品牌能够利用字体大规模制作个性化的品牌内容。有了 Typeface，品牌可以将广告产出翻两番，将制作时间缩短一半，每月节省数百小时 —— 同时提供能引起客户共鸣的引人入胜的内容。

Menlo Ventures 的团队很高兴能成为这一转型的一部分，支持那些正在推动人工智能可能性边界的创始人。我们的投资组合公司 —— 包括 Abnormal Security, Anthropic, Arch, Cleanlab, Eleos, Genesis Therapeutics, Harness, Higgsfield, Neon, OpenSpace, Pinecone, Recursion, Sana, Squint, Typeface, Unstructured, Vilya, and Xaira 展示人工智能如何改变行业，创造全新的工具和业务，造福数百万人。我们离实现智能企业的潜力越来越近了。如果你是一个准备成名的创始人，请伸出援手。

Menlo Ventures is ALL IN on AI. Let’s build the future of AI together.

报告地址：2024-the-state-of-generative-ai-in-the-enterprise

扩展阅读：https://mp.weixin.qq.com/s/V5lTkFQxjR9ObSNCKd7row