当前位置： 首页 > article >正文

Debain-12.9使用xinference部署音频模型/audio

article 2025/3/16 14:51:06

Debain-12.9使用xinference部署音频模型/audio

  • 基础环境准备
  • 下载模型
  • 部署模型
  • 注册服务
  • 注册dify模型

基础环境准备

基础环境安装

下载模型

modelscope download --model 'openai-mirror/whisper-small' --local_dir 'openai-mirror/whisper-small'

部署模型

xinference launch --model-path ~/ollama/openai-mirror/whisper-small --model-name whisper-small --model-uid whisper-small --model-type audio --api-key vl-5bgrMOCJ5OSBKQV5XbHz --endpoint "http://127.0.0.1:19997"

注册服务

在这里插入图片描述

注册dify模型

需要先安装插件Xorbits Inference

在这里插入图片描述


http://www.kler.cn/a/587074.html

相关文章：

  • 《灵珠觉醒：从零到算法金仙的C++修炼》卷三·天劫试炼（48）戮魂幡染节点 - 二分图检测（着色法）
  • 【NLP】 9. 处理创造性词汇 词组特征（Creative Words Features Model）， 词袋模型处理未知词，模型得分
  • 【黑马点评|项目】万字总结（下）
  • Python软件和搭建运行环境
  • C++进阶——map和set的使用
  • Python在数据处理中的应用：从入门到精通
  • Linux date 命令使用指南
  • 用Python打造AI玩家：挑战2048，谁与争锋
  • Socket服务器和客户端
  • 安装SQL数据库并且在jupyter中连接，运行
  • 回溯法--力扣第17题“电话号码的字母组合”(java)
  • 【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
  • stable Diffusion 中的 VAE是什么
  • Maximize Rating
  • [动手学习深度学习]24. AlexNet
  • 神经网络的基本知识
  • 补充二分LIS
  • 【公务员考试】高效备考指南
  • 2018年全国职业院校技能大赛高职组-计算机网络应用竞赛竞赛样题F卷
  • 【C++】—— 一篇文章解决面试 继承菱形继承