如何在算家云搭建CodeGeeX4(文本生成)
一、 大模型 CodeGeeX4 简介
CodeGeeX4 模型系列的开源版本 CodeGeeX4-ALL-9B。它是一个在 GLM-4-9B 上持续训练的多语言代码生成模型,显著增强了其代码生成能力。使用单个 CodeGeeX4-ALL-9B 模型,它可以支持代码补全和生成、代码解释器、网页搜索、函数调用、仓库级代码问答等全面的功能,覆盖软件开发的各种场景。
二、大模型 CodeGeeX4 一键使用
基础环境最低要求说明:
环境名称 | 版本信息1 |
---|---|
Ubuntu | 22.04.4 LTS |
Cuda | V12.1.105 |
Python | 3.12 |
NVIDIA Corporation | RTX 3090 |
1. 根据需求选择主机和镜像,进行一键创建实例
- 在租用实例页面,通过一键使用进入应用社区
- 搜索并选择 CodeGeeX4 大模型
- 选择 RTX 3090 GPU,进行创建实例
2. 进入网页端命令行
- 在项目实例页面,点击 WebSSH
- 进入 WebSSH 页面,运行后续的功能代码
3. 启动 web 页面
# 切换到 CodeGeeX4 项目工作目录
cd /CodeGeeX4
# 激活 CodeGeeX4 虚拟环境
conda activate CodeGeeX4
运行 web_demo/main.py 文件
python web_demo/main.py
4. 获取端口号
- 第一次使用需要进行实名认证(通过实名认证可跳过此步骤)
- 实名认证之后进行开发对外端口
- 获取访问地址
5. 进入 web 页面
将获取到的链接复制到本地浏览器:
# 比如当前获取的地址如下:
http://hn-a.suanjiayun.com:30758
以上就是在算家云搭建 CodeGeeX4 的流程。具体使用方式可进入算家云“应用社区”查看该模型的使用说明
点击算家云-应用社区,选择模型,一键开启 AI 之旅!