Best LLM API Guida
Confronto prezzi API LLM: come confrontare equamente
Un confronto sui prezzi API LLM funziona solo se ogni provider è tariffato in base allo stesso carico di lavoro, non allo stesso numero headline. Questo articolo ti offre un metodo breve, poi lo applica a $0,15 per 1M di token input e $0,50 per 1M di token output.
Aggiornato:


Punti chiave
- Tarifica una forma di richiesta reale (token input, token output, turni), non una cifra pubblicizzata per milione.
- I token output costano solitamente di più dei token input, quindi un carico di lavoro chiacchierone cambia la classifica.
- I ricarichi minimi, la scadenza e la fatturazione delle richieste fallite cambiano ciò che un dollaro compra effettivamente.
- A $0,15 input e $0,50 output, una richiesta con 1.500 input e 400 output costa $0,000425.
I quattro numeri nascosti in ogni listino prezzi
La maggior parte delle pagine prezzo mostra due cifre: dollari per milione di token input e dollari per milione di token output. Quei due numeri sono sufficienti per confrontare i provider, ma solo dopo aver aggiunto altri due che provengono dalla tua app: quanti token invii per richiesta e quanti ricevi indietro.
- Prezzo input per 1M di token. Questo copre il tuo system prompt, la cronologia della chat e qualsiasi documento che incolli.
- Prezzo output per 1M di token. Questo copre tutto ciò che il modello scrive indietro.
- Dimensione del tuo input per richiesta, inclusa la cronologia che viene inviata di nuovo a ogni turno.
- Dimensione del tuo output per richiesta, che dipende da quanto lasci durare le risposte.
Il costo per richiesta è input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000. Tutto il resto di questo articolo è un affinamento di quella formula.
Passo 1: scrivi una forma di richiesta
Scegli i tre o quattro tipi di richiesta che il tuo prodotto invia effettivamente. Un bot di supporto, uno scrittore di storie e un classificatore per lotti hanno forme molto diverse, e un provider che vince su uno può perdere sull'altro.
| Forma | Token in ingresso | Token in uscita |
|---|---|---|
| Turno di chat breve | 1.500 | 400 |
| Riassunto documento lungo | 50.000 | 1.000 |
| Chiamata al classificatore | 300 | 20 |
| Scrittura lunga | 800 | 3.000 |
Se non hai ancora i log, prendi alcune conversazioni reali e conta i token con qualsiasi tokenizer. Una regola approssimativa è che un token corrisponde a circa quattro caratteri di inglese, ma il codice e i testi non inglesi hanno un rapporto più alto. Misura prima di fidarti della regola.
Passo 2: esegui i calcoli a $0,15 e $0,50
Questo servizio addebita $0,15 per 1M di token input e $0,50 per 1M di token output. Questo è $0,00015 per 1.000 token input e $0,0005 per 1.000 token output. Applicato alle forme sopra:
| Forma | Costo input | Costo output | Per richiesta |
|---|---|---|---|
| Turno di chat breve | $0.000225 | $0.0002 | $0.000425 |
| Riassunto documento lungo | $0.0075 | $0.0005 | $0,008 |
| Chiamata al classificatore | $0,000045 | $0,00001 | $0,000055 |
| Scrittura lunga | $0,00012 | $0,0015 | $0,00162 |
Nota dove va il denaro. Nel riepilogo del documento, l'input è il 94% del costo. Nella scrittura estesa, l'output è il 93%. Un provider con un prezzo di input basso e un prezzo di output alto sembra conveniente per il primo carico di lavoro e scarso per il secondo. Ecco perché una singola cifra di "prezzo per milione" è fuorviante.
Scala a un mese. Un'app chat che invia 1.000 turni brevi al giorno per 30 giorni invia 45M di token input ($6,75) e 12M di token output ($6,00), per un totale di $12,75.
Passo 3: tieni conto della cronologia che cresce
Le API chat sono stateless. Ogni turno reinvi il prompt di sistema e ogni messaggio precedente, quindi l'input cresce con la lunghezza della conversazione mentre l'output per turno rimane piatto.
Prendi una conversazione di 10 turni con un system prompt di 1,000 token. Ogni turno aggiunge circa 300 token dall'utente e 200 dal modello, quindi 500 token di nuova cronologia per turno. Il turno 1 invia 1,000 token input, il turno 2 ne invia 1,500, e il turno 10 ne invia 5,500. La somma su 10 turni è 32,500 token input, più 2,000 token output in totale.
input_tokens = sum(1000 + 500 * k for k in range(10)) # 32,500
output_tokens = 10 * 200 # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6)) # 0.005875
Sono $0.005875 per l'intera conversazione. Se avessi moltiplicato solo un turno per dieci, avresti sottostimato l'input di più della metà. Riduci la cronologia, riassumi i turni precedenti o limita la finestra se il numero è importante per te. La guida all'uso di un'API LLM copre come viene inviata la cronologia dei messaggi.
Passo 4: controlla le regole intorno al prezzo
Due provider con gli stessi prezzi per token possono ancora avere costi diversi per risposta utile. Controlla questi prima di decidere:
- Finestra di contesto. Una finestra più ampia ti permette di evitare il chunking, ma paghi il prezzo di input per ogni token che invii. Questo servizio ha una finestra da 100,000 token condivisa tra prompt e completazione.
- Acquisto minimo. Qui ricarichi qualsiasi importo intero da $20 a $500. Con $20 acquisti circa 47.000 turni di chat brevi al tasso sopra ($20 / $0,000425).
- Scadenza. Il credito qui non scade mai. Alcuni provider scadono i saldi prepagati o richiedono un abbonamento, quindi controlla i loro termini attuali.
- Richieste fallite. Le richieste fallite o rifiutate non vengono addebitate qui. Cerca la stessa dichiarazione altrove.
- Limiti di richieste. Una chiave completa permette 8 richieste concorrenti e 300 al minuto. Un prezzo economico non serve se il tuo lavoro in batch non può finire.
I bonus volume abbassano anche il prezzo effettivo. Un ricarico di $200 ottiene +15%, quindi ricevi $230 di credito e i tuoi tassi effettivi scendono a circa $0,13 input e $0,43 output per 1M. Un ricarico di $100 ottiene +10%, e $50 ottiene +5%. I dettagli completi sono nella pagina dei prezzi.
Quando il prezzo più basso non è la scelta giusta
Il prezzo per token ignora la qualità. Un modello che ha bisogno di due tentativi per ottenere una risposta corretta costa il doppio per ogni risultato utile, e un modello che rifiuta la tua richiesta ti fa perdere tempo anche quando il conto è zero. Esegui gli stessi 20-50 prompt reali su ogni candidato e conta quante risposte spediresti effettivamente. Dividi la spesa totale per quel conteggio.
Il modello qui è un singolo modello a pesi aperti ottimizzato per rispondere senza rifiuti di risposta per uso adulto legale. Non è un router e non è l'API ufficiale di alcun fornitore di modelli. Se il tuo compito richiede la capacità di ragionamento più forte disponibile e i rifiuti non sono un problema, un modello più grande di un altro provider può dare un costo migliore per risposta accettata anche a un prezzo per token più alto. Controlla i loro prezzi attuali e testalo nello stesso modo.
Un modo rapido per testare i numeri da solo
Non devi indovinare. Ogni risposta trasporta un'intestazione X-Balance-USD, e l'API riporta anche l'utilizzo dei token, quindi puoi inviare i tuoi prompt reali e leggere il costo effettivo. Il Python qui usa l'SDK OpenAI contro questo servizio e stampa il blocco di utilizzo.
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
I nuovi account possono richiedere $0,50 di credito di prova con un clic sulla pagina della chiave API. Alla forma 1.500 input / 400 output copre circa 1.170 richieste, sufficienti per un benchmark onesto. Se vuoi vedere se un piano gratuito è sufficiente per te prima, leggi sulle opzioni API LLM gratuite.
Altre guide
- API LLM più economica per la programmazione: costo per Pull Request
- Qualsiasi API LLM gratuita? Quello che ottieni davvero
Domande da fare su qualsiasi piano gratuito
Le offerte gratuite variano molto e il titolo raramente ti dice ciò che conta. Prima di costruire su una di esse, fai queste domande e trova le risposte nella documentazione del provider.
- Quale modello è? Alcuni piani gratuiti utilizzano un modello più piccolo rispetto a quello a pagamento. Un test su un modello debole ti dice poco sulla produzione.
- Quali sono i limiti di richiesta? Un limite di poche richieste al minuto va bene per uno script ed è inutile per un'app di chat con diversi utenti.
- Scade? Un credito una tantum con una scadenza è una cosa diversa da uno mensile ricorrente.
- Cosa succede ai tuoi prompt? Se i dati vengono usati per l'addestramento, non incollare nulla di privato. Qui i prompt non sono usati per l'addestramento.
- Com'è il percorso a pagamento? Passare dal gratuito al pagato dovrebbe essere un cambiamento di stato dell'account, non una riscrittura.
Auto-ospitare un modello a pesi aperti è talvolta suggerito come la via gratuita. Il software può costare nulla, ma la GPU di cui hai bisogno per eseguire un modello capace costa, sia che la noleggi a ore sia che la compri. Per un piccolo progetto l'aritmetica favorisce solitamente il pagamento per token, perché paghi solo per ciò che usi e nulla mentre sei inattivo.
Leggere la prova come budget di test
È utile trattare la prova come un budget di test piuttosto che come un prodotto gratuito. Spendila in un ordine fisso: prima una manciata di richieste semplici per confermare la connessione, poi il tuo prompt reale su dieci input variati, poi un'esecuzione in streaming, poi un prompt deliberatamente grande per vedere come il modello gestisce il contesto lungo. Tieni i numeri dal blocco usage in una nota.
Dopo saprai la tua dimensione media di input, la tua dimensione media di output e il tuo costo reale per attività. Moltiplica per il traffico che ti aspetti e hai una cifra mensile basata su misurazioni, non su supposizioni. Se la cifra è accettabile, una ricarica da 20 $ è il passo successivo. Se non lo è, hai imparato tutto questo per pochi centesimi.
Dopo la prova: come funziona il pagamento
Quando la prova si esaurisce o scade, aggiungi credito prepagato. Qualsiasi importo intero da 20 $ a 500 $ va bene. Ricariche più grandi hanno un bonus: +5% da 50 $, +10% da 100 $, +15% da 200 $. Una ricarica da 100 $ diventa 110 $ di credito, e 200 $ diventano 230 $.
Puoi pagare con cripto (USDT su TRC20, USDC su Base). Non c'è abbonamento e nessun minimo mensile. Il credito non scade mai, quindi una ricarica da 20 $ che usi lentamente non è sprecata. Ogni risposta include un'intestazione X-Balance-USD, che permette al tuo codice di monitorare il saldo senza un cruscotto.
Le richieste fallite o rifiutate non vengono addebitate. Se una richiesta genera un errore, non paghi per essa. I prompt non sono usati per l'addestramento. Vedi prezzi per la tabella completa.
Modi economici per far durare il credito
Non servono trucchi, solo alcune abitudini.
- Riduci la cronologia. Mantieni gli ultimi N turni più un breve riassunto di quelli precedenti invece di reinviare tutto.
- Imposta un limite di
max_tokensper le attività in cui bastano risposte brevi. È facoltativo qui, ma limita la parte di output, che è quella più costosa per token. - Usa la modalità JSON (
response_formatconjson_object) per le attività di estrazione, così non paghi per le introduzioni verbose. - Fai prima dei test con input piccoli. Verifica il prompt su dieci esempi prima di lanciare diecimila richieste.
- Gestisci i 429 con backoff. Riprovare in un loop serrato con una chiave di prova (2 concorrenti, 60 al minuto) fa perdere il tuo tempo. Attendi l'intestazione
Retry-Afterquando presente.
Se stai confrontando le opzioni prima di spendere qualcosa, la pagina su Hugging Face Inference API contro questo endpoint copre una decisione correlata.
Una prima chiamata per spendere il credito di prova su
Ecco una richiesta minima. Sostituisci la chiave con quella dal tuo dashboard.
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
La risposta include un blocco di utilizzo con i conteggi dei token di prompt e completamento. Moltiplicali per i prezzi sopra e avrai il costo esatto della chiamata. Fallo un paio di volte e ti farai un'idea del tuo carico di lavoro, che vale più di qualsiasi stima. La documentazione avvio rapido copre streaming, strumenti e codici di errore.
Altre guide
Domande e risposte
Devo confrontare il prezzo dei token di input o quello dei token di output?
Entrambi, ponderati in base al tuo carico di lavoro. I lavori basati su documenti sono dominati dal prezzo dei token di input, quelli di scrittura da quello dei token di output.
Come conto i token prima di acquistare?
Esegui un campione di prompt reali con un tokenizer, oppure inviali all'API e leggi il blocco di utilizzo nella risposta. I numeri di utilizzo sono quelli su cui vieni fatturato.
Le richieste fallite costano qui?
No. Le richieste fallite o rifiutate non vengono addebitate su questo servizio. Controlla i termini di qualsiasi altro provider che confronti.
C'è un abbonamento?
No. È pagamento a consumo da credito prepagato e il credito non scade mai.
La tua chiave è a un modulo di distanza
Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.