当前位置: 首页 > article >正文

(三)穷人技术部署方案:基于K80显卡的DeepSeek-Ollama部署

基于K80显卡的DeepSeek-Ollama部署,最穷的方案,只能部署Deepseek 7B版,因此有钱的不建议这样折腾自己,除非真的有时间又穷到像我这样。

1. 环境兼容性验证

硬件确认

显卡型号:NVIDIA Tesla K80 (Kepler架构,计算能力3.7)

显存容量:2x12GB(需验证是否以双卡模式运行)

PCI-E带宽:建议3.0及以上(影响数据吞吐)

软件依赖

操作系统:Ubuntu 20.04/22.04 LTS(已验证兼容性最佳)

驱动要求:最低470.199.02(支持CUDA 11.4+)

CUDA Toolkit:11.8(信息不太对称有些说K80支持的最高版本可能是10.2版,这个需要官网再核实,如果Cuda工具不支持K80的版本那就没法执行)


http://www.kler.cn/a/584351.html

相关文章:

  • 上海利氪科技-再次续订MappingSpace
  • PHP中的命令行工具开发:构建高效的脚本与工具
  • R格式 | 第十五届蓝桥杯C++B组
  • 深入了解 PyTorch 中的 MaxPool2d 及其池化家族函数
  • 深度学习与大模型-矩阵
  • 排序算法——归并排序(三)
  • 初一信息科技教程专用抓包软件1.4.2版本
  • C#中,如何隐藏TextBox/RichTextBox中闪烁的光标?
  • Linux 守护进程与 SSH 安全配置指南
  • pytest+allure+jenkins 实现接口自动化测试
  • 问问 DeepSeek 什么是网络爬虫
  • Hive函数、外部表和分区表
  • 《Python实战进阶》第21集:数据存储:Redis 与 MongoDB 的使用场景
  • 精通Python(55)
  • AI语言模型 Mythalion 13B 本地搭建与使用指南
  • 力扣-数组-69 x的平方根
  • 深度学习优化算法全面解析:从理论到实践
  • HCIA-11.以太网链路聚合与交换机堆叠、集群
  • C语言 进阶指针学习笔记
  • Word 小黑第21套