当前位置: 首页 > article >正文

LLaMA-Factory(一)环境配置及包下载

LLaMA-Factory(一)环境配置及包下载

  • 本机配置
  • 1. git下载
  • 2.创建虚拟环境
  • 3. 下载官方包内依赖
  • 4. 下载bitsandbytes
  • 5. 启动项目
  • 6. 可能出现问题1:pip install 出现 error: subprocess-exited-with-error 错误
  • 7. 可能出现问题2: ModuleNotFoundError: No module named ‘_distutils_hack‘

本机配置

操作系统:Window11
CPU:AMD Ryzen 9 7945HX with Radeon Graphics 2.50 GHz
RAM:16.0 GB (15.7 GB 可用)
GPU: NVIDIA GeForce RTX 4060 Laptop GPU 8G
CUDA版本:12.6 (可以在PowerShell或CMD下输入 nvidia-smi 命令查看自己的CUDA版本)

1. git下载

GitHub链接:https://github.com/hiyouga/LLaMA-Factory
git链接:

git clone https://github.com/hiyouga/LLaMA-Factory.git

下载后解压压缩包

2.创建虚拟环境

需要提前下载Anaconda3或miniconda
创建虚拟环境
官方Readme推荐python版本3.11

conda create -n llm python=3.11 -y

激活环境

conda activate llm

3. 下载官方包内依赖

在项目目录下CMD打开命令行窗口或使用cd命令到对应目录

pip install -e ".[torch,metrics]"

4. 下载bitsandbytes

pip install bitsandbytes

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple bitsandbytes

5. 启动项目

设置环境变量打开项目

Set CUDA_VISIBLE_DEVICES=0
Set GRADIO_SHARE=1
llamafactory-cli webui

也可将打开项目命令替换为

python src/webui.py

在目录下运行webui.py (类似GPT-Sovits)

启动成功
在这里插入图片描述

在这里插入图片描述

6. 可能出现问题1:pip install 出现 error: subprocess-exited-with-error 错误

新建conda环境 setuptools可能有问题

pip uninstall setuptools
pip install setuptools==69.0.0

7. 可能出现问题2: ModuleNotFoundError: No module named ‘_distutils_hack‘

Error processing line 1 of /home/chenqianyi/anaconda3/envs/pysyft/lib/python3.7/site-packages/distutils-precedence.pth:
Traceback (most recent call last):
File “/home/chenqianyi/anaconda3/envs/pysyft/lib/python3.7/site.py”, line 168, in addpackage
exec(line)
File “”, line 1, in
ModuleNotFoundError: No module named ‘_distutils_hack’

打开目录文件home/chenqianyi/anaconda3/envs/pysyft/lib/python3.7/site-packages/distutils-precedence.pth
在import os; 后换行
在这里插入图片描述


http://www.kler.cn/a/451047.html

相关文章:

  • JS中若干相似特性的区别
  • Doris Tablet 损坏如何应对?能恢复数据吗?
  • RabbitMQ中的Topic模式
  • 【C++】B2066救援题目分析和解决讲解
  • Github Copilot:已免费,速回归!!!
  • 中国农业科学院深圳农业基因组研究所合成生物学研究中心-随笔06
  • ubuntu扩展逻辑卷大小 (安装系统时默认只使用一半)
  • mysql修改表字段 ALTER 命令
  • Xilinx整数的处理计算方法
  • c# 实现一个简单的异常日志记录(异常迭代+分片+定时清理)+AOP Rougamo全局注入
  • 第二节:让电机转起来【51单片机-L298N-步进电机教程】
  • 台球助教平台系统开发APP和小程序信息收藏功能需求解析(第十二章)
  • React:前端开发领域的璀璨之星
  • RabbitMQ 的7种工作模式
  • 内部知识库的未来展望:技术融合与用户体验的双重升级
  • 小程序租赁系统开发指南与实现策略
  • myql explain sql分析详解
  • 千兆网中的gmii与rgmii
  • 【人工智能-初级】基于用户的协同过滤推荐算法
  • 超详细!一文搞定PID!嵌入式STM32-PID位置环和速度环
  • CMake 统一配置方式的优势
  • vue3中多层级路由缓存失效问题
  • 单元测试(UT,C++版)经验总结(gtest+gmock)
  • GitHub 桌面版配置 |可视化界面进行上传到远程仓库 | gitLab 配置【把密码存在本地服务器】
  • <论文>通过解耦注意力来增强Bert
  • Python数据可视化案例——折线图