Best LLM API 指南
LLM API 定价对比:如何公平比较
LLM API 定价对比只有在每个提供商都针对相同的负载而非相同的标题数字定价时才有效。本文提供简短方法,然后以 $0.15/百万输入 token 和 $0.50/百万输出 token 运行该对比。
更新时间:


要点
- 为真实的请求形状(输入 token、输出 token、轮次)定价,而不是按百万计价的标题数字。
- 输出 token 通常比输入 token 更贵,因此聊天型负载会改变排名。
- 最低充值、过期时间和失败请求计费会改变一美元的实际购买力。
- 输入单价 $0.15、输出单价 $0.50 时,1,500 输入/400 输出的请求成本为 $0.000425。
每个价格表隐藏的四个数字
大多数价格页面显示两个数字:每百万输入 token 的美元数和每百万输出 token 的美元数。这两个数字足以比较提供商,但前提是你还要加上来自你自己应用的两项数据:每次请求发送多少 token,以及返回多少 token。
- 每 1M token 的输入价格。这涵盖你的系统提示词、聊天历史以及你粘贴的任何文档。
- 每 1M token 的输出价格。这涵盖模型写回的所有内容。
- 每次请求的输入量,包括每轮重新发送的历史记录。
- 每次请求的你的输出量,取决于你让回复运行多久。
每次请求的成本为 input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000。本文的其余内容都是对该公式的细化。
步骤 1:写下请求形状
选择你的产品实际发送的三到四种请求类型。支持机器人、故事生成器和批量分类器的请求形状截然不同,在一个类型上胜出的提供商在另一个类型上可能会输。
| 形状 | 输入 token | 输出 token |
|---|---|---|
| 简短的对话轮次 | 1,500 | 400 |
| 长文档摘要 | 50,000 | 1,000 |
| 分类器调用 | 300 | 20 |
| 长文写作 | 800 | 3,000 |
如果你还没有日志,请取一些真实对话,并使用任何 tokenizer 计算 token 数量。一个粗略的规则是,一个 token 大约等于四个英文字符,但代码和非英语文本的 token 率更高。在信任该规则之前请先测量。
步骤 2:按 $0.15 和 $0.50/百万 token 进行计算
此服务对每 1M 输入 token 收取 $0.15,对每 1M 输出 token 收取 $0.50。即每 1,000 输入 token 收取 $0.00015,每 1,000 输出 token 收取 $0.0005。应用于上述场景:
| 形状 | 输入成本 | 输出成本 | 按请求 |
|---|---|---|---|
| 简短的对话轮次 | $0.000225 | $0.0002 | $0.000425 |
| 长文档摘要 | $0.0075 | $0.0005 | $0.008 |
| 分类器调用 | $0.000045 | $0.00001 | $0.000055 |
| 长文写作 | $0.00012 | $0.0015 | $0.00162 |
注意钱花在哪里。在文档摘要中,输入占账单的 94%。在长文写作中,输出占 93%。输入价格低廉但输出价格昂贵的提供商在第一种负载下看起来很棒,但在第二种负载下表现不佳。这就是单个“每百万价格”数字具有误导性的原因。
扩展到一个月。一个每天发送 1,000 次短轮次的聊天应用,在 30 天内发送 45M 输入 token($6.75)和 12M 输出 token($6.00),总计 $12.75。
步骤 3:考虑增长的历史记录
聊天 API 是无状态的。每轮你都会重新发送系统提示词和之前的每条消息,因此输入量会随着对话长度增长,而每轮的输出量保持不变。
取一段 10 轮对话,系统提示词为 1,000 token。每轮用户输入约 300 token,模型输出 200 token,因此每轮新增 500 token 的历史记录。第 1 轮发送 1,000 个输入 token,第 2 轮发送 1,500 个,第 10 轮发送 5,500 个。10 轮累计 32,500 个输入 token,加上总共 2,000 个输出 token。
input_tokens = sum(1000 + 500 * k for k in range(10)) # 32,500
output_tokens = 10 * 200 # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6)) # 0.005875
整个对话的成本为 $0.005875。如果你只是将一轮乘以十,输入量的计算误差将超过一半。如果数字对你很重要,请修剪历史记录、总结旧轮次或限制上下文窗口。LLM API 使用指南涵盖了消息历史是如何发送的。
步骤 4:检查价格周围的规则
两个具有相同 token 价格的提供商,每个有效回答的成本可能仍然不同。在决定之前请检查以下内容:
- 上下文窗口。更大的窗口让你可以跳过分块,但你需要为发送的每个 token 支付输入价格。此服务拥有 100,000 token 的窗口,提示词和补全共享该窗口。
- 最低购买额。 你可以按任意整数金额充值,范围从 $20 到 $500。$20 的最低充值额按上述费率可购买约 47,000 轮简短对话($20 / $0.000425)。
- 过期时间。此处的额度永不过期。一些提供商会过期预付余额或要求订阅,因此请检查他们的当前条款。
- 失败请求。失败或被拒绝的请求在此不收费。在其他地方寻找同样的声明。
- 速率限制。完整密钥允许 8 个并发请求和每分钟 300 个请求。如果你的批量作业无法完成,便宜的价格也无用。
批量充值还可降低实际价格。充值 $200 可获 +15% 奖励,即获得 $230 额度,实际费率降至约每 1M token 输入 $0.13、输出 $0.43。充值 $100 可获 +10%,充值 $50 可获 +5%。详细信息见定价页面。
当最便宜的价格不是最佳选择时
每 token 的价格忽略了质量。一个需要两次尝试才能获得正确答案的模型,每个有效结果的成本是两倍;一个拒绝你请求的模型,即使账单为零也会浪费你的时间。将相同的 20 到 50 个真实提示词通过每个候选模型运行,并计算你实际会交付的答案数量。将总花费除以该数量。
此模型是一个单一的开放权重模型,经过调整以在无内容拒绝的情况下回答合法成人用途。它不是路由器,也不是任何模型厂商的官方 API。如果你的任务需要最强的推理能力且拒绝不是问题,来自其他提供商的更大模型可能会在更高的 token 价格下提供每接受回答更低的成本。检查他们的当前定价并以相同方式测试。
快速验证计费数字的方法
你不需要猜测。每个响应都带有 X-Balance-USD 头,API 也报告 token 使用情况,因此你可以发送真实提示词并读取实际成本。下面的 Python 代码使用 OpenAI SDK 针对此服务并打印 usage 块。
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
新账户可以在 API 密钥页面上一键领取 $0.50 的试用额度。按 1,500 输入/400 输出的比例,这涵盖了大约 1,170 次请求,足以进行基准测试。如果你想先看看免费层是否足够,请阅读 免费 LLM API 选项。
更多指南
关于任何免费层级应问的问题
免费优惠差异很大,标题很少告诉你什么才是关键。在基于其构建之前,问这些问题,并在提供商自己的文档中找到答案。
- 是哪个模型? 一些免费层级使用比付费层级更小的模型。在弱模型上的测试对生产环境意义不大。
- 速率限制是多少? 每分钟几次请求对于脚本来说没问题,但对于有多个用户的聊天应用来说则不够用。
- 会过期吗? 有截止日期的单次额度与每月 重复性 额度是不同的概念。
- 你的提示词会怎样? 如果数据用于训练,不要在其中粘贴任何私密内容。这里,提示词不用于训练。
- 付费路径是什么样的? 从免费转到付费应该是账户状态的变更,而不是重写。
有时建议自托管开放权重模型作为免费途径。软件可能免费,但运行能力较强的模型所需的 GPU 需要付费,无论是按小时租用还是购买。对于小型项目,按 token 付费通常更划算,因为你只为使用的部分付费,空闲时不付费。
将试用视为测试预算
将试用视为测试预算而非免费产品会有所帮助。按固定顺序花费:首先是一批普通请求以确认连接,然后对十个不同输入使用同一个真实提示词,然后进行一次流式输出测试,最后发送一个故意的大提示词以查看模型如何处理长上下文。将 usage 块中的数字保存在笔记中。
之后,你就知道了平均输入大小、平均输出大小和每个任务的真实成本。乘以预期的流量,你就得到了一个基于测量而非猜测的月度数字。如果该数字可以接受,下一步是充值 $20。如果不行,你只花了几美分就学到了这一点。
试用后:付费是什么样的
当试用额度用完或过期时,你需添加预付额度。$20 到 $500 之间的任意整数金额均可充值。大额充值享有奖励:$50 起 +5%,$100 起 +10%,$200 起 +15%。$100 的充值变为 $110 的额度,$200 的充值变为 $230 的额度。
你可以通过加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。没有订阅费,也没有月度最低消费。额度永不过期,因此即使你缓慢使用 $20 的充值,也不会浪费。每次响应都包含一个 X-Balance-USD 标头,让你的代码无需仪表盘即可监控余额。
失败或被拒绝的请求不收费。如果请求出错,你无需为其付费。提示词不用于训练。完整表格见定价。
让额度更持久的廉价方法
你不需要技巧,只需要一些习惯。
- 精简历史。 保留最近 N 轮加上旧历史的简短摘要,而不是重新发送所有内容。
- 为只需简短回答的任务设置
max_tokens上限。此处为可选项,但它会限制输出侧,因为输出侧每个 token 的成本更高。 - 使用 JSON 模式(
response_format设为json_object)处理提取任务,避免为冗长的前言付费。 - 先用小输入进行测试。在运行一万次之前,先用十个示例验证提示词。
- 使用退避处理 429 错误。在试用密钥(2 个并发,每分钟 60 个)上紧密循环重试会浪费你自己的时间。当存在
Retry-After头时,请等待其指定的时长。
如果你在花费任何资金之前比较选项,Hugging Face Inference API 与此端点对比页面涵盖了相关决策。
首次调用以消耗试用额度
这是一个最小请求。将密钥替换为你从仪表板获取的密钥。
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
响应包含一个使用情况块,其中包含提示词和补全 token 的计数。将这些计数乘以上述价格,即可得到调用的确切成本。多进行几次这样的计算,你就能对自己的工作负载产生直观感受,这比任何估算都更有价值。快速入门文档涵盖了流式传输、工具调用和错误代码。
更多指南
问答
我应该比较输入价格还是输出价格?
两者都要,并根据你的实际负载进行加权。文档密集型任务由输入价格主导,而写作密集型任务由输出价格主导。
购买前如何计算 token 数量?
将真实提示词样本通过 tokenizer 运行,或发送到 API 并读取响应中的 usage 块。计费依据就是这些使用量数字。
失败请求在这里收费吗?
不。失败或被拒绝的请求在此服务中不收费。请检查你对比的其他提供商的条款。
有订阅吗?
不。这是从预付额度中按量付费,且额度永不过期。
只需填写一张表单即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。