Best LLM API Guia
Comparação de preços de API LLM: Como comparar com justiça
Uma comparação de preços de API LLM só funciona se todos os provedores forem precificados contra a mesma carga de trabalho, não o mesmo número de capa. Este artigo oferece um método rápido e depois o executa a $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída.
Atualizado:


Pontos principais
- Precifique uma forma de requisição real (tokens de entrada, tokens de saída, rodadas), não um número de capa por milhão.
- Tokens de saída geralmente custam mais que tokens de entrada, então uma carga de trabalho conversacional altera a classificação.
- Recargas mínimas, expiração e cobrança por requisições falhas alteram o que um dólar realmente compra.
- A $0,15 de entrada e $0,50 de saída, uma requisição de 1.500 de entrada / 400 de saída custa $0,000425.
Os quatro números que toda lista de preços esconde
A maioria das páginas de preço mostra dois valores: dólares por milhão de tokens de entrada e dólares por milhão de tokens de saída. Esses dois números são suficientes para comparar provedores, mas apenas após adicionar mais dois que vêm do seu próprio app: quantos tokens você envia por requisição e quantos recebe de volta.
- Preço de entrada por 1M de tokens. Isso cobre seu prompt de sistema, histórico de chat e quaisquer documentos que você cole.
- Preço de saída por 1M de tokens. Isso cobre tudo o que o modelo escreve de volta.
- O tamanho da sua entrada por requisição, incluindo o histórico que é reenviado a cada turno.
- O tamanho da sua saída por requisição, que depende de quanto tempo você permite que as respostas continuem.
O custo por requisição é input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000. Tudo o mais neste artigo é um refinamento dessa fórmula.
Passo 1: anote uma forma de requisição
Escolha os três ou quatro tipos de requisição que o seu produto realmente envia. Um bot de suporte, um escritor de histórias e um classificador em lote têm formas muito diferentes, e um provedor que vence em um pode perder em outro.
| Formato | Tokens de entrada | Tokens de saída |
|---|---|---|
| Turno de chat curto | 1,500 | 400 |
| Resumo de documento longo | 50,000 | 1,000 |
| Chamada de classificador | 300 | 20 |
| Escrita de longa extensão | 800 | 3,000 |
Se você ainda não tem logs, pegue algumas conversas reais e conte tokens com qualquer tokenizer. Uma regra aproximada é que um token equivale a cerca de quatro caracteres em inglês, mas código e texto não inglês têm maior densidade. Meça antes de confiar na regra.
Passo 2: faça as contas a $0,15 e $0,50
Este serviço cobra $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída. Isso equivale a $0,00015 por 1.000 tokens de entrada e $0,0005 por 1.000 tokens de saída. Aplicado às formas acima:
| Formato | Custo de entrada | Custo de saída | Por requisição |
|---|---|---|---|
| Turno de chat curto | $0.000225 | $0.0002 | $0.000425 |
| Resumo de documento longo | $0.0075 | $0.0005 | $0.008 |
| Chamada de classificador | $0.000045 | $0.00001 | $0.000055 |
| Escrita de longa extensão | $0.00012 | $0.0015 | $0.00162 |
Observe para onde o dinheiro vai. No resumo do documento, a entrada é 94% da conta. Na escrita de longo formato, a saída é 93%. Um provedor com preço de entrada barato e preço de saída caro parece ótimo na primeira carga de trabalho e ruim na segunda. É por isso que um único valor de "preço por milhão" engana.
Escale para um mês. Um app de chat que envia 1.000 rodadas curtas por dia durante 30 dias envia 45M de tokens de entrada ($6,75) e 12M de tokens de saída ($6,00), totalizando $12,75.
Passo 3: considere o histórico que cresce
As APIs de chat são stateless. A cada turno, você reenvia o prompt do sistema e todas as mensagens anteriores, então a entrada cresce com o comprimento da conversa, enquanto a saída por turno permanece plana.
Considere uma conversa de 10 turnos com um prompt de sistema de 1.000 tokens. Cada turno adiciona cerca de 300 tokens do usuário e 200 do modelo, totalizando 500 tokens de novo histórico por turno. O turno 1 envia 1.000 tokens de entrada, o turno 2 envia 1.500, e o turno 10 envia 5.500. A soma em 10 turnos é de 32.500 tokens de entrada, mais 2.000 tokens de saída no total.
input_tokens = sum(1000 + 500 * k for k in range(10)) # 32,500
output_tokens = 10 * 200 # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6)) # 0.005875
Isso equivale a $0.005875 para toda a conversa. Se você tivesse multiplicado apenas um turno por dez, teria subestimado a entrada em mais da metade. Reduza o histórico, resuma os turnos antigos ou limite a janela se o número for relevante para você. O guia para usar uma API de LLM cobre como o histórico de mensagens é enviado.
Passo 4: verifique as regras ao redor do preço
Dois provedores com os mesmos preços por token ainda podem custar quantias diferentes por resposta útil. Verifique estes antes de decidir:
- Janela de contexto. Uma janela maior permite pular o chunking, mas você paga o preço de entrada por cada token que envia. Este serviço tem uma janela de 100.000 tokens compartilhada entre prompt e conclusão.
- Compra mínima. Aqui você recarrega qualquer valor inteiro de $20 a $500. Um mínimo de $20 compra cerca de 47.000 turnos de chat curtos na taxa acima ($20 / $0.000425).
- Validade. O crédito aqui nunca expira. Alguns provedores expiram saldos pré-pagos ou exigem uma assinatura, então verifique os termos atuais deles.
- Requisições falhas. Requisições falhas ou recusadas não são cobradas aqui. Procure pela mesma declaração em outros lugares.
- Limites de taxa. Uma chave completa permite 8 requisições simultâneas e 300 por minuto. Um preço baixo não serve de nada se seu batch job não puder ser concluído.
Bônus de volume também reduzem o preço efetivo. Um top-up de $200 recebe +15%, então você recebe $230 de crédito e suas taxas efetivas caem para cerca de $0,13 de entrada e $0,43 de saída por 1M. Um top-up de $100 recebe +10%, e $50 recebe +5%. Detalhes completos estão na página de preços.
Quando o preço mais baixo não é a escolha certa
Preço por token ignora a qualidade. Um modelo que precisa de duas tentativas para obter uma resposta correta custa o dobro por resultado útil, e um modelo que recusa sua solicitação custa tempo mesmo quando a conta é zero. Execute os mesmos 20 a 50 prompts reais em cada candidato e conte quantas respostas você realmente enviaria. Divida o gasto total por essa contagem.
O modelo aqui é um único modelo de pesos abertos ajustado para responder sem recusas de conteúdo para uso adulto lícito. Não é um roteador e não é a API oficial de nenhum fornecedor de modelos. Se sua tarefa precisa do melhor raciocínio disponível e recusas não são um problema, um modelo maior de outro provedor pode dar um melhor custo por resposta aceita mesmo a um preço de token mais alto. Verifique o preço atual deles e teste da mesma forma.
Uma maneira rápida de testar os números você mesmo
Você não precisa adivinhar. Cada resposta inclui o cabeçalho X-Balance-USD, e a API também relata o uso de tokens, então você pode enviar seus prompts reais e ler o custo real. O Python abaixo usa o SDK da OpenAI contra este serviço e imprime o bloco de uso.
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
Novas contas podem reivindicar $0,50 de crédito de teste com um clique na página da chave de API. Na configuração 1.500-in / 400-out, isso cobre aproximadamente 1.170 requisições, suficiente para benchmark honestamente. Se você quer ver se um plano gratuito é suficiente para você primeiro, leia sobre opções de API LLM gratuitas.
Mais guias
- API LLM mais barata para Codificação: Custo por Pull Request
- Qual API de LLM é gratuita? O que você realmente recebe
Perguntas a fazer sobre qualquer plano gratuito
Ofertas gratuitas variam muito, e o título raramente diz o que importa. Antes de construir sobre uma, faça essas perguntas e encontre as respostas na documentação própria do provedor.
- Qual é o modelo? Alguns planos gratuitos usam um modelo menor que o pago. Um teste em um modelo fraco diz pouco sobre a produção.
- Quais são os limites de requisições? Um limite de algumas requisições por minuto é bom para um script e inútil para um aplicativo de chat com vários usuários.
- Ele expira? Uma cota única com prazo é uma coisa diferente de uma recorrente mensal.
- O que acontece com seus prompts? Se os dados forem usados para treinamento, não cole nada privado nele. Aqui, os prompts não são usados para treinamento.
- Como é o caminho pago? Mover de gratuito para pago deve ser uma mudança de estado de conta, não uma reescrita.
Hospedar um modelo de pesos abertos é às vezes sugerido como a rota gratuita. O software pode custar nada, mas a GPU que você precisa para executar um modelo capaz custa, seja você a alugá-la por hora ou comprá-la. Para um projeto pequeno, a matemática geralmente favorece pagar por token, porque você paga apenas pelo que usa e nada enquanto ocioso.
Lendo o teste como um orçamento de teste
Ajuda tratar o teste como um orçamento de teste em vez de um produto gratuito. Gaste-o em uma ordem fixa: primeiro algumas requisições simples para confirmar a conexão, depois seu prompt real em dez entradas variadas, depois uma execução de streaming, depois um prompt deliberadamente grande para ver como o modelo lida com contexto longo. Mantenha os números do bloco usage em uma nota.
Depois disso, você conhece seu tamanho médio de entrada, seu tamanho médio de saída e seu custo real por tarefa. Multiplique pelo tráfego que você espera e você tem uma figura mensal que se baseia em medições, não em suposições. Se a figura for aceitável, uma recarga de $20 é o próximo passo. Se não, você aprendeu isso por alguns centavos.
Após o teste: como funciona o pagamento
Quando o teste acaba ou expira, você adiciona crédito pré-pago. Qualquer valor inteiro de $20 a $500 funciona. Recargas maiores têm bônus: +5% a partir de $50, +10% a partir de $100, +15% a partir de $200. Uma recarga de $100 se torna $110 de crédito, e $200 se torna $230.
Você pode pagar com cripto (USDT na TRC20, USDC na Base). Não há assinatura nem mínimo mensal. O crédito nunca expira, então uma recarga de $20 que você usa lentamente não é desperdiçada. Cada resposta inclui um cabeçalho X-Balance-USD, que permite que seu próprio código monitore o saldo sem um painel.
Requisições falhas ou recusadas não são cobradas. Se uma requisição gerar erro, você não paga por ela. Os prompts não são usados para treinamento. Veja preços para a tabela completa.
Maneiras baratas de fazer o crédito durar
Você não precisa de truques, apenas de alguns hábitos.
- Limite o histórico. Mantenha as últimas N rodadas mais um resumo curto das anteriores em vez de reenviar tudo.
- Defina um
max_tokenslimite em tarefas onde respostas curtas são suficientes. É opcional aqui, mas limita o lado da saída, que é o mais caro por token. - Use o modo JSON (
response_formatcomjson_object) para tarefas de extração para que você não pague por introduções verbosas. - Teste com entradas pequenas primeiro. Valide o prompt em dez exemplos antes de executar dez mil.
- Trate 429s com backoff. Tentar novamente em um loop apertado com uma chave de teste (2 simultâneas, 60 por minuto) desperdiça seu tempo. Aguarde o cabeçalho
Retry-Afterquando ele estiver presente.
Se você está comparando opções antes de gastar qualquer coisa, a página sobre Hugging Face Inference API versus este endpoint cobre uma decisão relacionada.
Uma primeira chamada para gastar o crédito de teste
Aqui está uma solicitação mínima. Substitua a chave pela que está no seu painel.
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
A resposta inclui um bloco de uso com contagens de tokens de prompt e conclusão. Multiplique esses valores pelos preços acima e você terá o custo exato da chamada. Faça isso algumas vezes e você desenvolverá uma noção da sua própria carga de trabalho, o que vale mais do que qualquer estimativa. A documentação início rápido cobre streaming, ferramentas e códigos de erro.
Mais guias
Perguntas e respostas
Devo comparar o preço de entrada ou o de saída?
Ambos, ponderados pela sua carga de trabalho. Tarefas com muitos documentos são dominadas pelo preço de entrada, e tarefas de escrita pelo preço de saída.
Como contar tokens antes de comprar?
Execute uma amostra de prompts reais através de um tokenizer, ou envie-os para a API e leia o bloco de uso na resposta. Os números de uso são o que você é cobrado.
Requisições falhas custam dinheiro aqui?
Não. Requisições falhas ou recusadas não são cobradas neste serviço. Verifique os termos de qualquer outro provedor que você comparar.
Existe assinatura?
Não. É pagamento por uso a partir de crédito pré-pago, e o crédito nunca expira.
Sua chave está a um clique de distância
Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.