当前位置: 首页 > article >正文

一文搞懂模型倍率怎么计算的,以及模型分组倍率原理!

📍 已知:

        ① 输入token:又名 提示Input token 数

        ② 输出token:又名 补全Output token 数

📍 基准价格【最初 gpt3.5 的价格,所以倍率越大,越聪明越贵,倍率越小越省钱越笨】

        one-api 默认 1$ = 50w tokens,即 0.002$/1k tokens ,把这个叫做基准价格。

📍 模型倍率 = 输入价格/基准价格

📍 补全倍率 = 输出价格/输入价格


🧮 官方价格公式:输入价格 * 输入token数 + 输出价格 * 输出token数
📌 one-api 的价格公式:

  • 模型倍率 * (提示token数 + 补全token数 * 补全倍率)
    = 模型倍率 * 提示token数 + 模型倍率 * 补全倍率 * 补全token数
    = (输入价格/基准价格) * 输入token数 + (输出价格/基准价格)* 输出token数
    = (输入价格 * 输入token数 + 输出价格 * 输出token数))/ 基准价格

可以看到,它们只差了一个固定参数,即基准价格,程序后台计算完统一乘上基准价格就好了。

🎯 为什么基准价格为什么定在 1$=50w tokens

  • 那自然是因为最开始基准价格是参考的 gpt-3.5-turbo 的输入价格 0.002$/1k tokens
  • 降价是后来的事情了,你要问为什么选择倍率体系,不直接使用价格体系,那就得问前辈了

举例子,以 OpenAI 官网输入输出价格计算

🎯 知识点

  • 2023年的时候,模型还是按照 1k tokens 计费(1k = 1000 个token)
  • 2024年开始,随着模型的涨价以及用量的增多,已经按 M 计费了,1M = 100万 token,所以算基准费率的时候,基本上就是以 M 为单位的,除以2即为模型倍率

最后,预热一下

我的 领航AGI AIGC 大模型『聚合平台』即将上线啦,开箱即用 🎉🎉🎉

支持功能如下👇

👍🏻 个人 API_Key 管理,消费日志查询,数据看板、模型管理
👍🏻 高额邀请奖励, 额度用不完!
👍🏻 集成了当下最火的几款 AI 工具,满足所有人喜好,总有一款适合你!
👍🏻 支持 AI聊天、Midjourney 绘画、Suno音乐、AI视频
👍🏻 安全、稳定、高并发,最牛的AI聚合中转站,可用于个人网站!


http://www.kler.cn/news/355078.html

相关文章:

  • Java | Leetcode Java题解之第480题滑动窗口中位数
  • 决策树C4.5算法详解及实现
  • openEuler-22.03-SP4离线编译安装ZLMediaKit
  • A Survey on 3D Gaussian Splatting 整理
  • XML 和 SimpleXML 简介
  • linux环境下的程序设计与git操作
  • 【MySQL】入门篇—基本数据类型:NULL值的概念
  • 利用mydumper从MySQL迁移数据到OceanBase数据库命令记录
  • PHP学习记录-编辑器推荐和本地环境的安装
  • 锁定云轴科技ZStack主题演讲,10月19日中国云计算基础架构开发者大会见
  • WHAT - Antd 定制主题之预设算法
  • 【论文笔记】Fine-tuned CLIP Models are Efficient Video Learners
  • 代替AD作为身份认证组件,深信服零信任aTrust与宁盾身份目录实现互操作
  • leetcode 刷题day43动态规划Part12(115.不同的子序列、583. 两个字符串的删除操作、72. 编辑距离)
  • 一键获取每日股票数据,自动更新,尽在掌握
  • Autosar软件组件概述
  • 数字图像处理:图像复原应用
  • java 调用 k8s 的 apiserver
  • 公开选拔!产业实践教授
  • RHCE--at,crontab例行性工作