中文 ▾
获取 API 密钥

Best LLM API 指南

LLM API 有免费的吗?你实际能得到什么

没有托管 LLM API 能长期免费提供优质模型。你能获得的是少量免费额度,关键问题是这些额度能支撑多少使用量。

更新时间:

等距硬币将 token 块流式输入服务器,说明 LLM API 的免费试用额度

要点

  • 这里没有免费的无限额层级。新用户可获得有效期 7 天的 $0.50 试用额度,无需信用卡。
  • 输入每 1M token $0.15,输出每 1M token $0.50,$0.50 大约可覆盖 1,000 次简短聊天轮次。
  • 试用结束后,你从预付额度按量付费,起充金额为 $20,且额度永不过期。
  • 失败或被拒绝的请求不收费。

简短回答

如果你正在搜索any llm api free,你可能想要以下两种服务之一:一种是不花钱测试想法,另一种是零成本运行数月。前者是现实的,后者不是,任何承诺这一点的人要么限制极严,要么利用你的提示词进行训练,要么打算以后收费。

运行大语言模型需要真实的 GPU 和电力成本,因此每个托管 API 最终呈现三种形态:少量免费额度、针对较弱模型的速率限制免费层级,或付费额度。本站采用第一种形态。你获得一次性试用,之后按 token 付费,无订阅。

其他提供商运行自己的免费层级,且经常变动。请查看它们当前的定价页面,不要轻信博客文章(包括本文)中关于它们的信息。

试用包含的内容

通过 Google 或邮箱密码登录后,API 密钥页面会显示一个按钮来领取$0.50 试用额度。点击一次,无需信用卡,每人限领一次。额度有效期为 7 天。

试用密钥的限制比完整密钥稍严:

  • 2 个并发请求和每分钟 60 个请求,而完整密钥为 8 和 300。
  • 相同的模型,相同的uncensored 模型 ID,相同的 100,000-token 上下文窗口。
  • 流式输出、函数调用和 JSON 模式均有效。

这意味着你可以测试你真正打算构建的功能,而不是精简版演示。如果应用在长系统提示词或工具调用时出错,你可以在试用期间发现,而不是付费后。要领取,请前往API 密钥页面。

$0.50 能兑换多少 token

定价为输入每 1M token $0.15,输出每 1M token $0.50。输入是你发送的内容(系统提示词、历史记录、你的消息)。输出是模型写回的内容。计算很简单,以下是详细计算。

预算如果全部为输入如果全部为输出
$0.50 试用3,333,333 token1,000,000 token
$20 充值133,333,333 token40,000,000 token

实际流量是混合的,因此使用一个工作示例。一次聊天轮次包含 1,500 token 的提示词(系统消息加简短历史)和 500 token 的回复,成本为:

  • 输入:1,500 / 1,000,000 x $0.15 = $0.000225
  • 输出:500 / 1,000,000 x $0.50 = $0.000250
  • 总计:每轮 $0.000475

$0.50 除以 $0.000475 约等于 1,052 轮。对于试用来说,这是大量的测试量:足以编写提示词,运行几百次测试对话,并检查模型在边缘情况下的表现。但这不足以支撑公共应用运行一周。

免费额度实际耗尽的地方

简短的聊天轮次是成本最低的情况。有三种模式消耗额度比你预期的更快,在开始之前了解它们很有帮助。

每轮增长的长提示词

重新发送整个历史的聊天客户端会在每轮为历史付费。在第 40 轮,拥有 20,000 token 的历史和 500 token 的回复时,一次请求的成本为输入 20,000 / 1,000,000 x $0.15 = $0.003,加上输出 $0.00025,总计 $0.00325。虽然仍然很小,但比上面 1,500 token 轮次的成本高出近七倍。$0.50 的试用额度大约只能支持 153 次此类轮次。

智能体和工具循环

调用工具的智能体每个用户任务会发起多次请求,且每次请求都携带不断增长的历史。如果一个任务需要 6 次调用,平均输入 8,000 token,输出 300 token,则需 48,000 个输入 token($0.0072)和 1,800 个输出 token($0.0009),即每个任务 $0.0081。试用额度大约可支持 61 个此类任务。

最大尺寸提示词

填满 100,000 token 窗口的输入,每次请求成本为 $0.015(不含输出)。适合几次文档分析运行,但如果脚本循环执行一千次($15),则非常昂贵。

关于任何免费层级应问的问题

免费优惠差异很大,标题通常不显示关键信息。在基于其构建之前,问这些问题,并在提供商自己的文档中找到答案。

  • 是哪个模型? 一些免费层级使用比付费层级更小的模型。在弱模型上的测试对生产环境意义不大。
  • 速率限制是多少? 每分钟几次请求对于脚本来说没问题,但对于有多个用户的聊天应用来说则不够用。
  • 会过期吗? 有截止日期的单次额度与每月 按月重复发放的 额度是不同的概念。
  • 你的提示词会怎样? 如果数据用于训练,不要在其中粘贴任何私密内容。这里,提示词不用于训练。
  • 付费路径是什么样的? 从免费转到付费应该是账户状态的变更,而不是重写。

有时建议自行托管开放权重模型作为免费途径。软件可能免费,但运行功能完备的模型所需的 GPU 需要付费,无论是按小时租用还是购买。对于小型项目,按 token 付费通常更划算,因为你只为实际使用的部分付费,空闲时不产生费用。

将试用视为测试预算

将试用额度视为测试预算而非免费产品会有所帮助。按固定顺序使用:首先发送少量普通请求以确认连接,然后在十个不同输入上发送你的真实提示词,接着进行流式输出测试,最后发送一个故意较大的提示词以观察模型如何处理长上下文。将 usage 区块中的数字记录在笔记中。

之后,你就知道了平均输入大小、平均输出大小和每个任务的真实成本。乘以预期的流量,你就得到了一个基于测量而非猜测的月度数字。如果该数字可以接受,下一步是充值 $20。如果不行,你只花了几美分就学到了这一点。

试用后:付费是什么样的

试用额度用完或过期后,你需充值预付额度。$20 至 $500 之间的任意整数金额均可。大额充值享有额外奖励:充值 $50 赠 5%,充值 $100 赠 10%,充值 $200 赠 15%。充值 $100 将获得 $110 的额度,充值 $200 将获得 $230 的额度。

你可以通过加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。没有订阅费,也没有月度最低消费。额度永不过期,因此缓慢使用的 $20 充值不会浪费。每个响应都包含一个 X-Balance-USD HTTP 头,让你的代码无需仪表盘即可监控余额。

失败或被拒绝的请求不收费。如果请求出错,你无需为其付费。提示词不用于训练。完整表格见定价。

让额度更持久的廉价方法

你不需要技巧,只需要一些习惯。

  1. 精简历史。 保留最近 N 轮加上旧历史的简短摘要,而不是重新发送所有内容。
  2. 为只需简短回答的任务设置max_tokens上限。此处为可选项,但它会限制输出侧,因为输出侧每个 token 的成本更高。
  3. 使用 JSON 模式(response_format 设为 json_object)处理提取任务,避免为冗长的前言付费。
  4. 先用小输入进行测试。在运行一万次之前,先用十个示例验证提示词。
  5. 使用退避机制处理 429 错误。 对试用密钥(2 个并发,每分钟 60 次)进行密集循环重试会浪费你的时间。当存在 Retry-After HTTP 头时,请等待该头指示的时间。

如果你在花费任何资金之前比较选项,Hugging Face Inference API 与此接口对比页面涵盖了相关决策。

首次调用以消耗试用额度

这是一个最小请求。将密钥替换为你从仪表板获取的密钥。

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

响应包含一个使用情况块,其中包含提示词和补全 token 的计数。将这些计数乘以上述价格,即可得到调用的确切成本。多进行几次这样的计算,你就能对自己的工作负载产生直观感受,这比任何估算都更有价值。快速入门文档涵盖了流式输出、工具调用和错误代码。

问答

是否存在免费的无限 LLM API?

这里没有,任何地方也没有能长期覆盖自身 GPU 成本的情况。你获得有效期为 7 天的 $0.50 试用额度,之后需充值 $20 起。

试用需要信用卡吗?

不需要。通过 Google 或电子邮件和密码注册后,你可以在 API 密钥页面一键领取 $0.50。每人限领一次。

$0.50可以发起多少次请求?

对于 1,500 token 的提示词和 500 token 的回复,大约可以进行 1,052 次请求。更长的提示词或智能体循环会更快消耗额度。

失败的请求会收费吗?

不会。失败或被拒绝的请求不会收费,且未使用的额度永不过期。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥