Best LLM API Guida
API LLM per coding più economica: costo per pull request
L'API LLM per coding più economica è quella con il costo più basso per ogni modifica accettata, non quella con il prezzo più basso in una pagina dei prezzi. Di seguito trovi stime dei token per attività comuni, a $0,15 per 1M di token in input e $0,50 per 1M in output.
Aggiornato:


Punti chiave
- L'autocompletamento è economico per chiamata ma frequente; un loop di un agente rilegge il codebase e costa molto di più per attività.
- Una pull request revisionata con un prompt da 10.000 token costa circa $0,0021 a questi prezzi.
- Una singola esecuzione di un agente di 15 step, con circa 375.000 token di input, costa circa $0,06.
- Un modello generico economico è adatto per lavoro di routine; il debugging complesso può giustificare un modello più potente.
I carichi di lavoro di coding sono per lo più token in input
Le attività di coding hanno una forma asimmetrica. Invii molto contesto (il file, il diff, l'errore, i moduli circostanti) e ricevi una patch breve o un commento breve. L'input è solitamente dal 70 al 95 percento dei token, quindi il prezzo dell'input è il numero più importante per il coding.
A $0,15 per 1M di token in input, un prompt da 10.000 token costa $0,0015. A $0,50 per 1M di token in output, una risposta da 1.000 token costa $0,0005. Un assistente di coding che legge molto e scrive poco spenderà la maggior parte del budget nella lettura. L'eccezione è la riscrittura di un file intero, dove l'output è grande quanto il file.
Questo spiega anche perché il prezzo del lato output è facile da sovrastimare nella programmazione. Se uno strumento chiede spiegazioni insieme a ogni patch, l'output cresce e il rapporto cambia, quindi decidi subito se vuoi solo codice o codice con ragionamento e imposta il prompt di sistema di conseguenza. Una riga come "restituisci solo un unified diff" è un risparmio gratuito.
Quattro attività, calcolate una per una
I numeri qui sotto sono stime che puoi sostituire con i tuoi. Misura alcuni prompt reali con un tokenizer prima di pianificare un budget.
| Attività | Input | Output | Costo per chiamata |
|---|---|---|---|
| Autocomplete inline | 800 | 60 | $0,00015 |
| Revisione pull request | 10.000 | 1.200 | $0,0021 |
| Refactoring di un file da 8.000 token | 8.500 | 8.000 | $0,005275 |
| Esecuzione agent, 15 step | 375.000 | 12.000 | $0,06225 |
I calcoli per la riga di review: 10.000 x 0,15 / 1M = $0,0015, più 1.200 x 0,50 / 1M = $0,0006, totale $0,0021. Per il refactor: $0,001275 input più $0,004 output. Nota che il refactor spende tre quarti del suo costo in output, perché il modello riscrive l'intero file.
La riga dell'agente è quella da monitorare. Un agente che legge file, esegue test e riprova invia nuovamente il contesto in crescita a ogni step. Quindici step con una media di 25.000 token di input ciascuno sommano a 375.000 token di input, che equivalgono a $0,05625, più $0,006 per 12.000 token di output.
Come appare un mese per uno sviluppatore
Supponi che uno sviluppatore lavori 22 giorni al mese e svolga le seguenti attività ogni mese: 600 chiamate di autocomplete al giorno, 40 pull request revisionate, 40 esecuzioni di agent e 20 refactoring di file singoli.
- Autocompletamento: 13.200 chiamate x $0,00015 = $1,98
- Review: 40 x $0,0021 = $0,084
- Esecuzioni agente: 40 x $0,06225 = $2,49
- Refactor: 20 x $0,005275 = $0,1055
Il totale è di circa $4,66 per sviluppatore al mese. Un team di dieci persone arriva a circa $47. Anche se le tue stime sono sbagliate di un fattore tre, il conto rimane sotto $15 a persona. Puoi usare la pagina dei prezzi per verificare i tassi e i bonus di ricarica; una ricarica di $100 aggiunge il 10%, che equivale a $110 di credito.
Il punto debole non è il conto, ma i limiti. Una chiave completa permette 300 richieste al minuto e 8 richieste parallele. Un editor che avvia una richiesta ogni pausa nella digitazione può raggiungere quel limite rapidamente se un intero team condivide una chiave. Assegna a ogni persona una chiave o applica il debounce all'autocompletamento.
Collegalo a un editor o a uno script
L'API è compatibile con OpenAI, quindi qualsiasi strumento che accetta un endpoint personalizzato e una chiave può usarla. Molte estensioni per editor e agent CLI hanno queste due impostazioni. Imposta l'endpoint su https://api.bestllmapi.com/v1, il modello su uncensored e incolla la tua chiave.
Per uno script che revisiona un diff e stampa il costo, usa l'SDK Python di OpenAI:
import subprocess
from openai import OpenAI
client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
{"role": "user", "content": diff},
],
temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))
Mantieni temperature basso per revisione e refactoring. La documentazione API elenca i parametri passati attraverso, incluso seed, che aiuta quando vuoi output ripetibili in CI.
Modi per mantenere bassa la fattura di coding
- Invia diff, non repository interi. La revisione sopra usa 10.000 token perché invia un diff più un po' di contesto.
- Limita i passi dell'agente. Un loop che non si ferma è la causa più comune di sorprese in fattura. Fermati dopo un numero fisso di passi.
- Riduci l'output degli strumenti. Un log di test con 5.000 righe viene incollato in ogni passo successivo. Tieni solo le righe fallite.
- Chiedi patch. Richiedere un unified diff invece del file intero riduce l'output nell'esempio di refactor di circa il 90 percento quando la modifica è piccola.
- Usa la modalità JSON per output strutturati.
response_formatconjson_objectevita loop di retry causati da risposte non valide.
Le richieste fallite o rifiutate non vengono addebitate, quindi una richiesta che genera un errore non costa nulla.
Quando un modello più economico non è la scelta giusta
Questo è un modello a pesi aperti generale ottimizzato per rispondere senza rifiuti di contenuto per l'uso adulto legale. Non è un modello specializzato per la programmazione e non è l'API ufficiale di alcun fornitore. Per attività di routine come boilerplate, test, docstring, piccoli refactor e commenti di review, è un'opzione sensata a basso costo. Per il debug approfondito in un codebase sconosciuto o per una modifica architettonica importante, un modello più potente potrebbe farti risparmiare più tempo da sviluppatore di quanto costi in token.
Il modo per decidere è eseguire 20 attività reali dal tuo backlog su ogni candidato, contare le patch che vorresti unire e dividere la spesa per quel conteggio. Un credito di prova gratuito di $0,50, richiesto nella pagina della chiave API dopo l'accesso, copre alcune centinaia di review ai prezzi sopra, che è più che sufficiente per quel test. Altri provider fissano i propri prezzi, quindi controlla la loro tariffazione attuale. Per i dettagli di configurazione, vedi come usare un'API LLM.
Altre guide
- Confronto prezzi API LLM: come confrontare equamente
- Esiste un'API LLM gratuita? Cosa ottieni realmente
Domande da fare su qualsiasi piano gratuito
Le offerte gratuite variano molto e il titolo raramente ti dice ciò che conta. Prima di basarti su una di esse, fai queste domande e trova le risposte nella documentazione del provider.
- Quale modello è? Alcuni piani gratuiti utilizzano un modello più piccolo rispetto a quello a pagamento. Un test su un modello debole ti dice poco sulla produzione.
- Quali sono i limiti di richiesta? Un limite di poche richieste al minuto va bene per uno script ed è inutile per un'app di chat con diversi utenti.
- Scade? Un credito una tantum con una scadenza è una cosa diversa da uno mensile ricorrente.
- Cosa succede ai tuoi prompt? Se i dati vengono usati per l'addestramento, non incollare nulla di privato. Qui i prompt non sono usati per l'addestramento.
- Com'è il percorso a pagamento? Passare dal gratuito al pagato dovrebbe essere un cambiamento di stato dell'account, non una riscrittura.
L'auto-hosting di un modello a pesi aperti è talvolta suggerito come la strada gratuita. Il software può costare zero, ma la GPU necessaria per eseguire un modello capace costa, sia che la noleggi a ore sia che la compri. Per un progetto piccolo la matematica favorisce solitamente il pagamento per token, perché paghi solo per quello che usi e nulla quando sei inattivo.
Leggere la prova come budget di test
È utile trattare la prova come un budget di test piuttosto che come un prodotto gratuito. Spendila in un ordine fisso: prima una manciata di richieste semplici per confermare la connessione, poi il tuo prompt reale su dieci input variati, poi uno streaming, poi un prompt deliberatamente grande per vedere come il modello gestisce il contesto lungo. Tieni i numeri dal blocco usage in una nota.
Dopo saprai la tua dimensione media di input, la tua dimensione media di output e il tuo costo reale per attività. Moltiplica per il traffico che ti aspetti e hai una cifra mensile basata su misurazioni, non su supposizioni. Se la cifra è accettabile, una ricarica da 20 $ è il passo successivo. Se non lo è, hai imparato che per pochi centesimi.
Dopo la prova: come funziona il pagamento
Quando la prova si esaurisce o scade, aggiungi credito prepagato. Qualsiasi importo intero da 20 $ a 500 $ va bene. Ricariche più grandi hanno un bonus: +5% da 50 $, +10% da 100 $, +15% da 200 $. Una ricarica da 100 $ diventa 110 $ di credito, e 200 $ diventano 230 $.
Puoi pagare con cripto (USDT su TRC20, USDC su Base). Non c'è abbonamento e nessun minimo mensile. Il credito non scade mai, quindi una ricarica da 20 $ che usi lentamente non è sprecata. Ogni risposta include un'intestazione X-Balance-USD, che permette al tuo codice di monitorare il saldo senza dashboard.
Le richieste fallite o rifiutate non vengono addebitate. Se una richiesta genera un errore, non paghi per essa. I prompt non sono usati per l'addestramento. Vedi prezzi per la tabella completa.
Modi economici per far durare il credito
Non servono trucchi, solo alcune abitudini.
- Riduci la cronologia. Mantieni gli ultimi N turni più un breve riassunto di quelli precedenti, invece di reinviare tutto.
- Imposta un limite di
max_tokensper le attività in cui bastano risposte brevi. È facoltativo qui, ma limita la parte di output, che è quella più costosa per token. - Usa la modalità JSON (
response_formatconjson_object) per le attività di estrazione, così non paghi per le introduzioni verbose. - Fai prima dei test con input piccoli. Verifica il prompt su dieci esempi prima di lanciare diecimila richieste.
- Gestisci i 429 con backoff. Riprovare in un ciclo serrato con una chiave di prova (2 concorrenti, 60 al minuto) fa perdere il tuo tempo. Attendi l'intestazione
Retry-Afterquando presente.
Se stai confrontando le opzioni prima di spendere qualcosa, la pagina su Hugging Face Inference API contro questo endpoint copre una decisione correlata.
Una prima chiamata per spendere il credito di prova su
Ecco una richiesta minima. Sostituisci la chiave con quella dal tuo dashboard.
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
La risposta include un blocco di utilizzo con i conteggi dei token di prompt e completamento. Moltiplicali per i prezzi sopra e avrai il costo esatto della chiamata. Fallo un paio di volte e ti farai un'idea del tuo carico di lavoro, che vale più di qualsiasi stima. La documentazione quickstart copre streaming, strumenti e codici di errore.
Altre guide
Domande e risposte
Quanti token usa una tipica code review?
Un diff più un po' di contesto circostante è spesso 5.000-15.000 token di input, e il commento di review è 500-1.500 token di output. A questi tassi, ciò equivale a circa $0,001-$0,003.
Posso usare questa API nel mio editor?
Sì, se l'editor o l'estensione ti permette di impostare un base URL e una chiave compatibili con OpenAI. Usa il base URL del tuo account, il nome del modello uncensored e la tua chiave API.
La finestra di contesto è abbastanza grande per file di grandi dimensioni?
La finestra è di 100.000 token, condivisa tra prompt e completion. Questo permette di gestire molti file in una volta, ma i repository molto grandi devono comunque essere divisi.
Serve una carta per provarlo?
No. I nuovi utenti possono richiedere $0,50 di credito di prova con un clic nella pagina della chiave API, senza carta, valido per 7 giorni.
La tua chiave è a un modulo di distanza
Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.