AI工具讲解

推荐超级课程：

• 本地离线DeepSeek AI方案部署实战教程【完全版】
• Docker快速入门到精通
• Kubernetes入门到大师通关课
• AWS云服务快速入门实战

模型管理

Ollama

https://ollama.com/

Ollama 是一个专注于本地运行大型语言模型（LLM）的框架，它使得用户能够在自己的计算机上轻松地部署和使用大型语言模型，而无需依赖昂贵的GPU资源。Ollama 提供了一系列的工具和服务，旨在简化大型语言模型的安装、配置和使用过程，让更多人能够体验到人工智能的强大能力。

Hugging Face

是一家总部位于纽约的科技公司，成立于2016年，最初是作为一个聊天应用而开始的。然而，随着时间的推移，Hugging Face 在自然语言处理（NLP）和机器学习领域变得非常知名，特别是在开源社区中。

Hugging Face 主要以其以下几方面的贡献而闻名：

1. Transformers 库：Hugging Face 开发了名为 “Transformers” 的开源Python库，它提供了大量预训练的模型和深度学习架构，用于处理文本（例如BERT, GPT-2, GPT-3, RoBERTa, T5等）。这个库极大地简化了研究人员和开发人员使用和 fine-tune 这些模型的过程。
2. 模型库：Hugging Face 还维护着一个模型仓库，用户可以在这里分享、发现和下载各种预训练的模型。这些模型涵盖了从文本到图像处理的各种机器学习任务。
3. 数据集库：Hugging Face 还提供了一个数据集库，用户可以轻松地下载和分享用于训练和测试机器学习模型的数据集。
4. 社区：Hugging Face 构建了一个活跃的社区，研究人员、开发者和爱好者可以在其中交流想法、分享模型和数据集。
5. 空间（Spaces）：Hugging Face Spaces 是一个平台，允许用户快速部署和分享基于 Web 的机器学习演示。
   Hugging Face 的使命是推动人工智能的开放性和可访问性，使得全球的研究人员和开发人员都能够使用最先进的工具和技术。

区别

Ollama 和 Hugging Face 是两个不同的平台，它们在自然语言处理（NLP）和机器学习领域都扮演着重要角色，但它们的重点和功能有所不同。

Ollama:

• Ollama 是一个相对较新的平台，专注于提供大型语言模型（LLMs）的接口和工具，使得用户可以轻松地与这些模型互动。
• 它提供了一个简单的API，允许用户在自己的应用程序中集成和使用大型语言模型。
• Ollama 可能更侧重于为开发者提供易于使用的工具，以便他们可以在自己的产品中快速实现复杂的语言处理功能。
• Ollama 可能不如 Hugging Face 那样知名，但它可能提供了一些特定的功能或模型，这些功能或模型在其他平台上不容易找到。

Hugging Face:

• Hugging Face 是一个广受欢迎的开源平台，提供了一系列的工具和资源，用于构建、训练和部署机器学习模型，尤其是在NLP领域。
• 它最著名的可能是其模型库（Model Hub），其中包含了成千上万的预训练模型，这些模型涵盖了从NLP到计算机视觉等各个领域。
• Hugging Face 提供了 Transformers 库，这是一个开源的深度学习库，用于处理文本，它提供了大量的预训练模型和工具，用于文本分类、命名实体识别、机器翻译等任务。
• Hugging Face 还提供了一个在线平台，用户可以在其中分享、探索和使用各种机器学习模型。
• Hugging Face 的社区非常活跃，有成千上万的开发者和研究人员贡献模型、数据和代码。

总结来说，Ollama 可能更专注于为开发者提供大型语言模型的集成和使用工具，而 Hugging Face 则是一个更全面的平台，提供从模型训练到部署的整个机器学习生命周期中的工具和资源。Hugging Face 的社区和资源库也非常庞大，这使得它在机器学习领域非常有影响力。

AI模型交互应用程序

AnythingLLM

https://anythingllm.com/

AnythingLLM 是易于使用的一体化AI 应用程序，零设置、私有、一体化的 AI 应用程序，用于本地 LLM、RAG 和 AI 代理，并且所有这些都集中在一个地方，而无需开发人员进行痛苦的设置。

AnythingLLM 支持多种文档类型（PDF、TXT、DOCX等），具有对话和查询两种聊天模式。

支持多种 LLM、嵌入模型和向量数据库：

• LLM：包括任何开源的 llama.cpp 兼容模型、OpenAI、Azure OpenAI、Anthropic ClaudeV2、LM Studio 和 LocalAi。
• 嵌入模型：AnythingLLM 原生嵌入器、OpenAI、Azure OpenAI、LM Studio 和 LocalAI。
• 向量数据库：LanceDB（默认）、Pinecone、Chroma、Weaviate 和 QDrant。

AnythingLLM 主要由三部分组成:收集器、前端和服务器。

• collector：Python 工具，可快速将在线资源或本地文档转换为 LLM 可用格式。
• frontend：ViteJS + React 前端，用于创建和管理 LLM 可使用的所有内容。
• server：NodeJS + Express 服务器，处理所有向量数据库管理和 LLM 交互。

Cherry Studio

https://cherry-ai.com/

Cherry Studio 是一款支持多个大语言模型（LLM）服务商的桌面客户端，兼容 Windows、Mac 和 Linux 系统。

1. 多样化 LLM 服务支持：

   • ☁️ 支持主流 LLM 云服务：OpenAI、Gemini、Anthropic、硅基流动等
   • 🔗 集成流行 AI Web 服务：Claude、Peplexity、Poe、腾讯元宝、知乎直答等
   • 💻 支持 Ollama 本地模型部署

2. 智能助手与对话：

   • 📚 内置 300+ 预配置 AI 助手
   • 🤖 支持自定义创建专属助手
   • 💬 多模型同时对话，获得多样化观点

3. 文档与数据处理：

   • 📄 支持文本、图片、Office、PDF 等多种格式
   • ☁️ WebDAV 文件管理与数据备份
   • 📊 Mermaid 图表可视化
   • 💻 代码高亮显示

AI开发相关Python库

以下是一些在数据处理、机器学习、深度学习、自然语言处理等领域广泛使用的开源工具库：

1. 数据处理和分析

   • Pandas: 提供高性能、易用的数据结构和数据分析工具。
   • NumPy: 用于高性能科学计算和数据分析的基础库。
   • SciPy: 基于NumPy，用于科学和技术计算的库。
   • Matplotlib: 强大的数据可视化库。
   • Seaborn: 基于Matplotlib的统计图形可视化库。

2. 机器学习和深度学习框架

   • TensorFlow: 由Google开发的开源机器学习框架，适合进行大规模的数值计算。
   • PyTorch: 由Facebook开发的开源机器学习库，以其动态计算图和易用性而受到欢迎。
   • scikit-learn: 用于数据挖掘和数据分析的简单有效的Python工具包。
   • Keras: 高级神经网络API，可以运行在TensorFlow、CNTK或Theano之上。

3. 自然语言处理（NLP）

   • NLTK (Natural Language Toolkit): 用于处理文本数据的综合性Python库。
   • spaCy: 现代化的NLP库，用于生产环境中的文本处理。
   • transformers: 由Hugging Face开发的库，提供预训练模型，用于NLP任务。

4. 数据可视化

   • Plotly: 用于创建交互式图表的库。
   • Bokeh: 专注于创建交互式图表和可视化仪表盘的库。

5. 数据存储

   • SQLite: 轻量级的数据库，适合桌面和服务器应用。
   • PostgreSQL: 功能强大的开源对象关系型数据库系统。
   • MongoDB: 文档型数据库，适合存储大规模的JSON风格数据。

6. Web框架

   • Flask: 轻量级的Web应用框架。
   • Django: 高级Web框架，鼓励快速开发和干净、实用的设计。