【杂谈】-50+个生成式人工智能面试问题（三）

3、生成式AI面试问题与提示工程相关

Q12. 什么是提示工程？

答案：提示工程是人工智能自然语言处理领域中的一种实践，通过文本描述AI需要完成的任务。在这种输入的指导下，AI生成输出。这种输出可以采取不同的形式，目的是使用人类可理解的文本进行对话，以便与模型进行交流。由于任务描述嵌入在输入中，模型能够更灵活地执行各种可能性。

Q13. 什么是提示？

答案：提示是对模型期望输出的详细描述。它们是用户与AI模型之间的互动。这应该让我们更好地理解工程的含义。

Q14. 如何设计你的提示？

答案：提示的质量至关重要。有一些方法可以改进它们并提高模型的输出质量。让我们来看看下面的一些技巧：

• 角色扮演：这个想法是让模型扮演一个指定的系统角色。从而创建定制的互动并针对特定的结果。这节省了时间
• 和复杂性，却能达到显著的结果。这可能是扮演教师、代码编辑器或面试官的角色。
• 明确性：这意味着消除模糊性。有时，在试图详细说明时，我们最终包含了不必要的内容。简洁是实现这一点的好方法。
• 具体化：这与角色扮演有关，但想法是具体化并以统一的方向引导，避免分散的输出。
• 一致性：一致性意味着保持对话的流畅。保持一致的语气以确保可读性。
  另请阅读：17种提升LLMs的提示技巧

Q15. 有哪些不同的提示技巧？

答案：在编写提示时使用不同的技巧。它们是核心。

1）零样本提示
零样本提供了一种不是培训数据的一部分但仍能按预期执行的提示。简而言之，LLMs可以进行泛化。

例如：如果提示是：将文本分类为中性、负面或正面。而文本是：我认为这个演讲很棒。

情感：

输出：正面

模型对“情感”含义的了解使其能够零样本地对问题进行分类，即使它没有大量的文本分类数据可供参考。由于文本中没有提供描述性数据，可能存在陷阱。那么我们可以采用少量样本提示。

2）少量样本提示/上下文学习
从基本理解来看，少量样本使用了一些示例（样本）来展示它必须做什么。这需要从演示中获得一些见解来进行。它不仅依赖于训练数据，还基于可用的样本进行构建。

3）思维链（CoT）
CoT允许模型通过中间推理步骤实现复杂的推理。它涉及创建和改进称为“推理链”的中间步骤，以促进更好的语言理解和输出。它可以像是一种混合，结合在更复杂的任务上的少量样本提示。

4、生成式AI面试问题与RAG相关

Q16. RAG（检索增强生成）是什么？

答案：检索增强生成（RAG）是一种优化大型语言模型输出的过程，使其在生成响应之前参考训练数据源之外的权威知识库。大型语言模型（LLMs）通过大量数据进行训练，并使用数十亿个参数来生成原始输出，用于回答问题、翻译语言和完成句子等任务。RAG扩展了LLMs已经强大的能力到特定领域或组织的内部知识库，而无需重新训练模型。这是一种提高LLM输出的成本效益方法，使其在各种情境中保持相关性、准确性和实用性。

Q17. 为什么检索增强生成很重要？

答案：智能聊天机器人和其他涉及自然语言处理（NLP）的应用依赖于LLMs作为基本的人工智能（AI）技术。目标是开发出能够通过交叉引用可靠知识源，在不同场景中回答用户询问的机器人。遗憾的是，由于LLM技术的性质，LLM的回复变得不可预测。LLM训练数据也引入了信息截止日期，并且是静态的。

LLMs已知的挑战包括：

• 当没有答案时呈现虚假信息。
• 当用户期望特定、当前回应时，呈现过时或通用的信息。
• 从非权威来源创建响应。
• 由于术语混淆导致不准确的响应，其中不同的训练源使用相同的术语谈论不同的事情。

大型语言模型可以比作一个过于热心的新员工，他拒绝跟上当前事务，但总是完全自信地回应询问。不幸的是，你不希望你的聊天机器人采取这种心态，因为它可能会损害消费者信任！

解决这些问题的一种方法是RAG。它将LLM重新定向，以从可靠、预先选择的知识源获取相关信息。用户了解LLM如何创建响应，组织对生成的文本输出有更多的控制权。

Q18. 检索增强生成的好处是什么？

答案：生成式AI实施中的RAG技术

• 成本效益高：RAG技术是一种经济高效的方法，用于向生成式AI模型引入新数据，使其更具可访问性和可用性。
• 当前信息：RAG允许开发者向模型提供最新的研究、统计数据或新闻，增强其相关性。
• 增强用户信任：RAG允许模型呈现带有来源归属的准确信息，增加用户对生成式AI解决方案的信任和信心。
• 更多开发者控制：RAG允许开发者更有效地测试和改进聊天应用，控制信息来源，限制敏感信息检索，并在LLM引用错误信息源时进行故障排除。

5、生成式AI面试问题与LangChain相关

Q19. LangChain是什么？

答案：LangChain是一个开源框架，基于大型语言模型（LLMs）创建应用。被称为LLMs的大型深度学习模型在大量数据上进行了预训练，可以对用户请求生成答案，例如从基于文本的提示生成图像或回答问题。为了提高模型生成的数据的相关性、准确性和定制程度，LangChain提供了抽象和工具。例如，开发者可以使用LangChain组件创建新的提示链或修改现有的模板。此外，LangChain还有部分功能允许LLMs使用新数据集而无需重新训练。

Q20. 为什么LangChain很重要？

答案：LangChain增强机器学习应用

• LangChain简化了开发数据响应性应用程序的过程，使提示工程更加高效。
• 它允许组织重新利用语言模型用于特定领域的应用，增强模型响应而无需重新训练或微调。
• 它允许开发者构建引用专有信息的复杂应用，减少模型幻觉并提高响应准确性。
• LangChain通过抽象数据源集成和提示细化的复杂性，简化了AI开发过程。
• 它为AI开发者提供连接语言模型与外部数据源的工具，使其成为开源并由活跃社区支持。
• LangChain免费提供，并提供来自精通该框架的其他开发者的支持。

6、生成式AI面试问题与LlamaIndex相关

Q21. LlamaIndex是什么？

答案：LlamaIndex是一个基于大型语言模型（LLMs）的应用数据框架。像GPT-4这样的LLMs通过大规模公共数据集进行预训练，使它们具有出色的自然语言处理能力。然而，如果没有你的个人信息，它们的实用性会受到限制。

LlamaIndex使用灵活的数据连接器，使你能够从数据库、PDF、API等导入数据。这些数据的索引结果会生成优化的中间表示形式，适用于LLMs。之后，LlamaIndex允许通过聊天界面、查询引擎和具有LLM能力的智能体，用自然语言查询和与你的数据进行交互。通过它，你的LLMs可以访问和分析大量机密数据，而无需使用更新的数据重新训练模型。

Q22. LlamaIndex是如何工作的？

答案：LlamaIndex使用检索增强生成（RAG）技术。它将私有知识库与大型语言模型结合起来。其通常分为两个阶段：索引阶段和查询阶段。

索引阶段
在索引阶段，LlamaIndex将私有数据有效地索引到一个向量索引中。这个阶段有助于构建一个特定领域的可搜索知识库。文本文档、数据库条目、知识图谱和其他类型的数据都可以被输入。

本质上，索引将数据转换为表示其语义内容的数值嵌入或向量。这允许快速搜索整个内容的相似性。

查询阶段
在查询阶段，RAG管道根据用户的问题查找最相关的数据。然后，将这些数据和查询提供给LLM以生成正确结果。

通过这个过程，LLM可以获得最新且相关的材料，而这些材料在其初始训练中并未涵盖。此时，主要问题是检索、组织和推理潜在的多个信息源。