当前位置： 首页 > article >正文

Mac ARM 本地运行 Mini-Omni 记录

article 2024/10/21 20:10:06

Mini-Omni是一个开源的多模态大型语言模型，可以听、说和思考。具有实时端到端语音输入和流式音频输出的对话能力。Github

  1. 安装 conda
    miniconda 安装

  2. 执行

# 创建一个python环境
conda create -n omni python=3.10
conda activate omni

# clone项目
git clone https://github.com/gpt-omni/mini-omni.git
cd mini-omni

# 安装依赖
pip install -r requirements.txt

# 安装ffmpeg
brew install ffmpeg

# 安装PyAudio
brew install portaudio # mac必须 
pip install PyAudio==0.2.14

# server
python3 server.py --ip '0.0.0.0' --port 60808 --device cpu # 设置 cpu 运行

# web ui
# 启动
API_URL=http://0.0.0.0:60808/chat streamlit run webui/omni_streamlit.py

访问 http://localhost:8501/

在这里插入图片描述


http://www.kler.cn/news/359165.html

相关文章：

  • Redis 性能优化选择：Pika 的配置与使用详解
  • 备考408——数据结构基础知识
  • 模型驱动架构（MDA）设计方法及其应用分析
  • C++面试速通宝典——28
  • RestTemplate基本使用之HTTP实现GET请求和POST请求
  • Pymysql中Mysql连接默认会开启事务处理-数据表名行数列表SQL以及python中的日志模板 logoru 及常用参数配置解析
  • 内网穿透之Linux系统安装神卓互联【超详细，小白一看就会】
  • 2024-moectf Web WP
  • docker配置加速器
  • git分支模型
  • 情绪稳定！别再让Git合并冲突影响你工作了
  • 音视频入门基础：H.264专题（19）——FFmpeg源码中，获取avcC封装的H.264码流中每个NALU的长度的实现
  • [论文阅读]Large Language Models Are Reasoning Teachers
  • 《深度学习》OpenCV 人脸检测、微笑检测 原理及案例解析
  • commvault测试（1）：cv10使用辅助拷贝实现不同MA的数据同步
  • 在文件里引用目录文件下的静态资源图片不显示
  • Element笔记
  • MoCoOp_ Mixture of Prompt Learning for Vision Language Models
  • xlnt加载excel报错：xl/workbook.xml:2:2581: error: attribute ‘localSheetId‘ expected
  • Kaggle Python练习：字符串和字典（Exercise: Strings and Dictionaries）