一文搞懂模型倍率怎么计算的,以及模型分组倍率原理!
📍 已知:
① 输入token:又名 提示
、Input
token 数
② 输出token:又名 补全
、Output
token 数
📍 基准价格【最初 gpt3.5 的价格,所以倍率越大,越聪明越贵,倍率越小越省钱越笨】
one-api 默认 1$ = 50w tokens
,即 0.002$/1k tokens ,把这个叫做基准价格。
📍 模型倍率 = 输入价格/基准价格
📍 补全倍率 = 输出价格/输入价格
🧮 官方价格公式:输入价格 * 输入token数 + 输出价格 * 输出token数
📌 one-api 的价格公式:
- 模型倍率 * (提示token数 + 补全token数 * 补全倍率)
= 模型倍率 * 提示token数 + 模型倍率 * 补全倍率 * 补全token数
= (输入价格/基准价格) * 输入token数 + (输出价格/基准价格)* 输出token数
= (输入价格 * 输入token数 + 输出价格 * 输出token数))/ 基准价格
可以看到,它们只差了一个固定参数,即基准价格,程序后台计算完统一乘上基准价格就好了。
🎯 为什么基准价格为什么定在 1$=50w tokens
?
- 那自然是因为最开始基准价格是参考的 gpt-3.5-turbo 的输入价格 0.002$/1k tokens
- 降价是后来的事情了,你要问为什么选择倍率体系,不直接使用价格体系,那就得问前辈了
举例子,以 OpenAI 官网输入输出价格计算
🎯 知识点
- 2023年的时候,模型还是按照 1k tokens 计费(1k = 1000 个token)
- 2024年开始,随着模型的涨价以及用量的增多,已经按 M 计费了,1M = 100万 token,所以算基准费率的时候,基本上就是以 M 为单位的,除以2即为模型倍率
最后,预热一下
我的 领航AGI AIGC 大模型『聚合平台』即将上线啦,开箱即用 🎉🎉🎉
支持功能如下👇
👍🏻 个人 API_Key 管理,消费日志查询,数据看板、模型管理!
👍🏻 高额邀请奖励, 额度用不完!
👍🏻 集成了当下最火的几款 AI 工具,满足所有人喜好,总有一款适合你!
👍🏻 支持 AI聊天、Midjourney 绘画、Suno音乐、AI视频!
👍🏻 安全、稳定、高并发,最牛的AI聚合中转站,可用于个人网站!