《2核2G阿里云神操作！Ubuntu+Ollama低成本部署Deepseek模型实战》
简介：
“本文为AI开发者揭秘如何在阿里云2核2G轻量级ECS服务器上，通过Ubuntu系统与Ollama框架实现Deepseek模型的高效部署。无需昂贵硬件，手把手教程涵盖环境配置、资源优化及避坑指南，助力初学者用极低成本在云端跑通行业领先的大语言模型，解锁轻量化服务器运行AI任务的无限可能！”
一、环境准备清单
服务器
服务器：Ubuntu 24.04 64位
CPU&内存：2核(CPU) & 2 GiB
ESSD Entry云盘：40GB
SSH软件
MobaXterm_Personal_21.4
Deepseek版本
本教程选择：DeepSeek-R1-Distill-Qwen-1.5B
官方推荐配置
DeepSeek R1 模型参数和显存需求：
| 模型名称 | 参数量 | 显存需求 | 推荐显卡型号（最低） |
|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | 4-6 GB | GTX 1660 Ti、RTX 2060 |
| DeepSeek-R1-Distill-Qwen-7B | 7B | 12-16 GB | RTX 3060、RTX 3080 |
| DeepSeek-R1-Distill-Llama-8B | 8B | 16-20 GB | RTX 3080 Ti、RTX 3090 |
| DeepSeek-R1-Distill-Qwen-14B | 14B | 24-32 GB | RTX 3090、RTX 4090 |
| DeepSeek-R1-Distill-Qwen-32B | 32B | 48-64 GB | A100、H100 |
| DeepSeek-R1-Distill-Llama-70B | 70B | 80-128 GB | A100、H100、MI250X |
二、Shell工具连接云服务器
- 点击右上角的：Session
- 点击SSH
- 输入host和username点击OK
- 输入密码即可
三、安装Ollama
简介：
Ollama 是一款专注于本地化AI模型运行与管理的开源工具，其核心功能在于实现模型的轻量化部署与全生命周期维护，通过容器化封装与资源调度优化，显著降低开发者在本地环境构建私有AI服务的技术门槛。
github地址:https://github.com/ollama/ollama
Linux版安装
# Linxu安装
curl -fsSL https://ollama.com/install.sh | sh
本地解压版
由于网速的原因，很难将Linux版本的ollama下载下载，所以本文提供了tgz文件，从而实现解压安装。
网盘地址：https://pan.baidu.com/s/1mx_3R4NVjOSC9D8BaGdYHg?pwd=9eg7
- 步骤一：在服务器上建立一个空的文件夹，用来存放ollama文件
mkdir ollama
- 适用工具将压缩包上传到服务器上
工具：WinSCP-5.21.5-Setup
地址：https://pan.baidu.com/s/1mx_3R4NVjOSC9D8BaGdYHg?pwd=9eg7
打开软件后，输入服务器的ip、用户名、密码
上传完成
# 解压命令
# tar -zxvf
sudo -zxvf ollama-linux-amd64.tgz
# 将解压后ollama文件夹的bin目录中的ollama复制到 /usr/bin中
cp bin/ollama /usr/bin
# 测试是否安装成功，出现命令帮助表示为ollama安装成功
ollama
使用魔塔社区安装（建议使用）
官网安装教程：https://www.modelscope.cn/models/modelscope/ollama-linux
- 首先要安装支持大模型支持的环境：ModelScope Notebook
官网安装教程：https://modelscope.cn/notebook/share/ipynb/4a85790f/ollama-installation.ipynb
注意点：安装该平台需要服务器上有python和pip的环境
- 安装python和pip
sudo apt install python3
sudo apt install pip
- 安装ModelScope Notebook
# 本教程在使用此命令时，会发生错误
pip install modelscope -U
解决方案：
# 强制安装，无视风险
pip install modelscope -U --break-system-package s.
# 以下为安装成功的截图
- 从ModelScope上下载Ollama安装包
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.6.2
- 安装ollama
cd ollama-linux && sudo chmod +x ./ollama-modelscope-install.sh && ./ollama-modelscope-install.sh
# 查看版本号
ollama --version
- 启动ollama
systemctl start ollama.service
# 查看服务活动状态
systemtcl status ollama.service
systemctl is-active ollama.servie
启动Ollama（魔塔安装或直接安装可忽略此步骤）
# 检测是否启动 active 为启动；inactive为未启动
systemctl is-active ollama.servie
systemctl status ollama.service
# 启动
systemctl start ollama.service
# 启动命令：
systemctl start ollama.service
# 结果：发现并不存在ollama.service
创建ollama.service文件（魔塔安装或直接安装可忽略此步骤）
- 建一个新的服务文件 /etc/systemd/system/ollama.service
切换到/etc/systemd/system
创建ollama.service
cd /etc/systemd/system
vim ollama.service
- 文件内容格式
Description 是服务的简单描述。
After 指定了在哪个服务启动后启动此服务。
Type 定义了服务进程的启动类型，simple 表示启动主进程。
User 指定运行服务的用户，本文用的是root ，你也可以用其他账户。
WorkingDirectory 设置服务的工作目录，本文用的/root，你也可以切换成其他用户目录。
ExecStart 指定启动服务的命令。命令位置为：/usr/bin/ollama 中的serve
Restart 指定服务崩溃时的重启策略。
RestartSec 设置重启服务前等待的时间。
WantedBy 指定了服务所在的 target，multi-user.target 表示多用户系统。
[Unit]
Description=Ollama Service
After=network.target
[Service]
Type=simple
User=root
WorkingDirectory=/root
ExecStart=/usr/bin/ollama serve
Restart=on-failure
RestartSec=30
[Install]
WantedBy=multi-user.target
# 修改完后，切换到vim的命令格式输入:qw保存
# 步骤1: 按Esc
# 步骤2：:wq
- 重新加载服务单元文件
命令解释：
在修改了某个服务单元文件后，想要让更改生效，所以需要执行这个命令。需要明确的是，当用户修改的是/etc/systemd/system/下的服务文件时，应该使用daemon-reload。但如果修改的是systemd本身的配置文件比如system.conf，则需要用daemon-reexec，
sudo systemctl daemon-reload
再次启动ollama（此步骤为离线包安装步骤）
# 查看服务状态
systemctl status ollama.service
systemctl is-active ollama.service
# 启动
systemctl start ollama.service
# 设置服务开机自启动
systemctl enable ollama.service
当前的服务状态图：（已启动）
开机自启动
四、Deepseek内存需求对比表（推理模式）
| 模型规模 | 数据类型 | 理论参数内存 | 实际显存估算（含激活值） | 推荐显存配置 |
|---|---|---|---|---|
| 1.5B | FP16 | 3 GiB | 3.6-4.5 GiB | 6-8 GB |
| Int8 | 1.5 GiB | 1.95-2.4 GiB | 4 GB+ | |
| 7B | FP16 | 14 GiB | 16.8-21 GiB | 24 GB |
| Int8 | 7 GiB | 8.4-10.5 GiB | 12 GB+ | |
| 13B | FP16 | 26 GiB | 31.2-39 GiB | 40 GB+ |
| Int8 | 13 GiB | 15.6-19.5 GiB | 24 GB+ | |
| 33B | FP16 | 66 GiB | 79.2-99 GiB | 多卡并行 |
| Int8 | 33 GiB | 39.6-49.5 GiB | 48 GB+ | |
| 70B | FP16 | 140 GiB | 168-210 GiB | 多卡并行 |
| Int8 | 70 GiB | 84-105 GiB | 多卡并行 |
五、内存不足解决方案-虚拟内存
因为我们的云服务器只有2G的内存，所以将虚拟内存作为解决方案
▶ 技术定义
虚拟内存（Swap）是通过将磁盘空间模拟为内存使用的技术，当物理内存不足时，系统会将非活跃内存页暂存至磁盘交换区。
▶ 核心运行机制
物理内存（2GB） ←→ 交换分区/文件（如12GB）
│
└─ 内核通过分页算法自动管理热数据
虚拟内存的优劣对比
| 优势 | 劣势 |
|---|---|
| 内存扩展：突破物理内存限制 | 性能损失：磁盘I/O速度比内存慢100-1000倍 |
| 防OOM：避免程序崩溃 | 硬件损耗：SSD频繁写入降低寿命 |
| 成本低：无需硬件升级 | 安全风险：交换文件可能泄漏敏感数据 |
| 弹性配置：按需调整大小 | 响应延迟：交换抖动(Thrashing)导致卡顿 |
▶ 搭建模型使用虚拟内存优劣对比分析表
| 优势 | 劣势 |
|---|---|
| ✅** 突破硬件限制**：总可用内存达14GB（2+12） | ❌** 性能断崖下降**：推理速度可能从3.2 tokens/s降至0.3-0.8 tokens/s |
| ✅** 防OOM崩溃**：可支撑约512 tokens上下文 | ❌** SSD寿命风险**：模型运行时可能产生15-30GB/日的写入量（SSD寿命约300TBW） |
| ✅** 零硬件成本**：仅需磁盘空间 | ❌** 响应不可靠**：P99延迟可能超过5秒 |
| ✅** 快速部署**：30分钟内完成配置 | ❌** 功能阉割**：需关闭attention优化等特性 |
▶ 详细构建步骤（Ubuntu系统）
1. 创建12GB Swap文件
# 使用快速分配（需fallocate支持）
sudo fallocate -l 12G /swapfile
# 传统方式（若无fallocate）：
# sudo dd if=/dev/zero of=/swapfile bs=1G count=12 status=progress
# 设置权限
sudo chmod 600 /swapfile
# 格式化为Swap
sudo mkswap /swapfile
# 立即启用
sudo swapon /swapfile
2. 查询内存分配
free -h
swapon --show
3. 云服务器持久化配置
- 永久生效：通过修改 /etc/fstab，系统每次启动时会自动挂载 /swapfile作为 Swap 空间。
- 避免手动重复配：解决临时 Swap 配置（如 swapon /swapfile）在重启后失效的问题。
- 安全性：追加写入（-a）确保不破坏原有配置，但仍建议提前备份 /etc/fstab
echo '/swapfile none swap sw 0 0' | sudo tee -a /etc/fstab
六、下载Deepseek模型
官网地址：https://ollama.com/library/deepseek-r1:1.5b
# 下载模型并直接运行模型：
ollama run deepseek-r1:1.5b
