当前位置: 首页 > article >正文

TEI text-embeddings-inference文本嵌入模型推理框架

参看:

https://github.com/huggingface/text-embeddings-inference#docker
在这里插入图片描述

文本嵌入模型榜单
https://huggingface.co/spaces/mteb/leaderboard

在这里插入图片描述

bge模型下载

https://huggingface.co/BAAI/bge-m3/tree/main

export HF_ENDPOINT=https://hf-mirror.com

huggingface-cli download --resume-download --local-dir-use-symlinks False BAAI/bge-m3--local-dir /ai/bge-m3

docker 运行

cpu测试,发现运行实际调用的是onnx模型推理

docker run  -p 8080:80 -v /ai/bge-m3:/data  ghcr.io/huggingf

http://www.kler.cn/news/350747.html

相关文章:

  • FFMPEG+Qt 实时显示本机USB摄像头1080p画面以及同步录制mp4视频
  • java脚手架系列10-统一缓存、分布式锁
  • npm、yarn、pnpm的workspaces使用
  • 文本预处理——构建词云
  • 开源vGPU方案 HAMi实现细粒度GPU切分——筑梦之路
  • 当当平台商品详情接口技术实现与代码示例
  • 【MySQL】表的查询操作——SELECT
  • Redis 数据结构与操作详解:从基本命令到高效缓存策略mget-0707
  • C++之多继承
  • 开通微信小程序需要哪些资料?集师知识付费小程序
  • ROS2 “通信方式” 参数服务器
  • 数据挖掘示例分析
  • 一个检查OpenEuler版本的Python脚本的意义与实现
  • windows安装cuda与cudnn
  • 基于车辆轨迹时空数据的城市热点预测模型研究
  • AI工具推荐合集
  • 用html做跨平台应用程序——千丝冥缘应用——跨平台软件开发
  • 【Next.js 项目实战系列】03-查看 Issue
  • AI学习指南深度学习篇- 预训练模型的原理
  • 大衍数列——考研408考试科目之数据算法——未来之窗学习通
  • React之组件渲染性能优化
  • python教程:python中的异常,异常堆栈及其案例
  • 【Mysql/xtrabackup】主从恢复(高端操作)
  • 第三课:python学习之安装pygame
  • 安防监控摄像头图传模组,1公里WiFi无线传输方案,监控新科技
  • 如何使用Pillow库在背景图上添加文字的示例代码