TR ▾
API anahtarı al

Best LLM API Kılavuz

Kodlama için en ucuz LLM API'si: Çekme İsteği başına maliyet

Kodlama için en ucuz LLM API'si, fiyat sayfasındaki en düşük satır değil, kabul edilen değişiklik başına en düşük maliyete sahip olandır. Aşağıda, yaygın kodlama görevleri için token tahminleri, 1M giriş tokenı başına $0,15 ve 1M çıktı tokenı başına $0,50 fiyatlandırma ile verilmiştir.

Güncelleme:

Kod döşemelerinin yığını ve yanına küçük bir para yuvası ile ana hatta birleşen bir dal
Bir sunucuya token bloklarının akışını besleyen izometrik paralar, bir LLM API'si için ücretsiz deneme kredisini gösterir

Temel noktalar

  • Otomatik tamamlama çağrı başına ucuzdur ancak sıklıkla gerçekleşir; bir ajan döngüsü kod tabanını yeniden okur ve görev başına çok daha fazla maliyet yaratır.
  • 10.000 tokenlık bir istemle incelenen bir çekme isteği, bu oranlarla yaklaşık $0,0021'e mal olur.
  • 15 adımdan oluşan bir ajan çalışması, yaklaşık 375.000 giriş tokenı tutar ve yaklaşık $0,06'a mal olur.
  • Ucuz genel bir model rutin işler için iyi bir uyum sağlar; zor hata ayıklama daha güçlü bir modeli haklı çıkarabilir.

Kodlama yüklemeleri büyük ölçüde giriş tokenlarından oluşur

Kod görevleri asimetrik bir yapıya sahiptir. Çok fazla bağlam (dosya, fark, hata, çevreleyen modüller) gönderirsiniz ve kısa bir yama veya kısa bir yorum alırsınız. Girdi genellikle tokenların %70 ile %95'ini oluşturur, bu da kodlama için girdi fiyatının en önemli sayı olduğunu gösterir.

1M giriş tokenı başına $0,15 ile 10.000 tokenlık bir istem $0,0015'e mal olur. 1M çıktı tokenı başına $0,50 ile 1.000 tokenlık bir yanıt $0,0005'e mal olur. Çok okuyan ve az yazan bir kod asistanı, bütçesinin çoğunu okumaya harcayacaktır. İstisna, çıktının dosya boyutunda olduğu tam dosya yeniden yazma durumudur.

Bu durum, kodlamada çıktı tarafının fiyatının kolayca abartılmasını da açıklar. Bir araç her yama için açıklamalar isterse çıktı büyür ve oran değişir. Erken aşamada sadece kod mu yoksa akıl yürütme içeren kod mu istediğinize karar verin ve sistem istemini buna göre ayarlayın. "Sadece birleşik fark dosyasını döndür" gibi bir satır ücretsiz bir tasarruf sağlar.

Dört görev, tek tek fiyatlandırılmış

Aşağıdaki sayılar, kendi verilerinizle değiştirebileceğiniz tahminlerdir. Bütçe planlamadan önce birkaç gerçek istemi bir token sayacı ile ölçün.

GörevGirdiÇıktıÇağrı başına maliyet
Satır içi otomatik tamamlama80060$0,00015
Çekme isteği incelemesi10.0001.200$0,0021
8.000 token'lık bir dosyayı yeniden düzenleyin8.5008.000$0,005275
Ajan çalışması, 15 adım375.00012.000$0,06225

İnceleme satırı için matematik: 10.000 x 0,15 / 1M = $0,0015, artı 1.200 x 0,50 / 1M = $0,0006, toplam $0,0021. Yeniden düzenleme için: $0,001275 girdi artı $0,004 çıktı. Yeniden düzenlemenin maliyetinin dörtte üçünü çıktıya harcadığını unutmayın, çünkü model tüm dosyayı yeniden yazar.

Ajan satırı dikkat edilmesi gereken kısımdır. Dosya okuyan, testler çalıştıran ve yeniden deneme yapan bir ajan, her adımda artan bağlamı tekrar gönderir. Ortalama 25.000 giriş tokenı içeren 15 adım, 375.000 giriş tokenına ve $0,05625'e mal olur; 12.000 çıktı tokenı için ise $0,006 eklenir.

Bir geliştirici için bir ay nasıl görünür

Bir geliştiricinin ayda 22 gün çalıştığını ve her ay aşağıdakileri yaptığını varsayın: günde 600 otomatik tamamlama çağrısı, 40 çekme isteği incelemesi, 40 ajan çalıştırma ve 20 tek dosya yeniden düzenlemesi.

  • Otomatik tamamlama: 13.200 çağrı x $0,00015 = $1,98
  • İncelemeler: 40 x $0,0021 = $0,084
  • Ajan çalışmaları: 40 x $0,06225 = $2,49
  • Yeniden düzenlemeler: 20 x $0,005275 = $0,1055

Toplam, geliştirici başına ayda yaklaşık $4,66 tutarındadır. On kişilik bir ekip için bu miktar yaklaşık $47'ye denk gelir. Tahminleriniz üç kat hata yapsa bile, fatura kişi başı $15'in altında kalır. fiyatlandırma sayfası üzerinden oranları ve bakiye yükleme bonuslarını kontrol edebilirsiniz; $100'lik bir bakiye yükleme işlemi %10 bonus ekler, bu da $110 kredi anlamına gelir.

Zayıf nokta fatura değil, limitlerdir. Tam yetkili bir anahtar dakikada 300 isteğe ve 8 eşzamanlı isteğe izin verir. Yazma duraklamalarında istek gönderen bir editör, tüm bir ekip tek anahtar paylaşırsa bu limite hızla ulaşabilir. Her kişiye bir anahtar verin veya otomatik tamamlamayı geciktirin.

Bir editöre veya betiğe bağlayın

API, OpenAI ile uyumludur, bu nedenle özel temel URL ve anahtar kabul eden herhangi bir araç onu kullanabilir. Birçok editör uzantısı ve CLI ajanı bu iki ayara sahiptir. Temel URL'yi https://api.bestllmapi.com/v1 olarak ayarlayın, modeli uncensored olarak seçin ve anahtarınızı yapıştırın.

Bir fark dosyasını inceleyen ve maliyeti yazan bir betik için OpenAI Python SDK'sını kullanın:

import subprocess
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
        {"role": "user", "content": diff},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))

İnceleme ve yeniden yapılandırma işleri için temperature değerini düşük tutun. API belgeleri, tekrarlanabilir çıktı istediğinizde yardımcı olan seed dahil olmak üzere geçirilen parametreleri listeler.

Kodlama faturasını düşük tutmanın yolları

  • Tüm depoları değil, fark dosyalarını gönderin. Yukarıdaki inceleme, bir fark dosyası ve bazı bağlam gönderdiği için 10.000 token kullanır.
  • Ajan adımlarını sınırlayın. Asla durmayan bir döngü, sürpriz faturaların en yaygın nedenidir. Sabit bir adım sayısından sonra durun.
  • Araç çıktısını azaltın. 5.000 satırlık bir test günlüğü her sonraki adıma yapıştırılır. Sadece başarısız satırları koruyun.
  • Yama isteyin. Tam dosya yerine birleşik diff istemek, yeniden düzenleme örneğinde çıktıyı değişiklik küçük olduğunda yaklaşık yüzde 90 oranında azaltır.
  • Yapılandırılmış çıktı için JSON modunu kullanın. response_format ile json_object, hatalı yanıtlardan kaynaklanan yeniden deneme döngülerini önler.

Başarısız veya reddedilen istekler için ücret alınmaz; hata veren bir istek hiçbir maliyet yaratmaz.

Daha ucuz bir model doğru seçim olmadığında

Bu, yasal yetişkin kullanımı için içerik reddi olmadan yanıtlayacak şekilde ayarlanmış genel bir açık ağırlıklı modeldir. Uzman bir kodlama modeli değildir ve herhangi bir satıcının resmi API'si değildir. Şablonlar, testler, docstringler, küçük yeniden düzenlemeler ve inceleme yorumları gibi rutin görevler için mantıklı bir düşük maliyetli seçenektir. Tanımadığınız bir kod tabanında derin hata ayıklama veya büyük mimari değişiklikler için daha güçlü bir model, token maliyetinden daha fazla geliştirici zamanı tasarrufu sağlayabilir.

Karar verme yolu, yığınınızdaki 20 gerçek görevi her aday üzerinden çalıştırmak, birleştireceğiniz yamaları saymak ve harcamayı bu sayıya bölmektir. Kayıt sonrası API anahtarı sayfasında talep edilen $0,50 deneme kredisi, yukarıdaki oranlarla birkaç yüz incelemeyi kapsar; bu test için yeterlidir. Diğer sağlayıcılar kendi fiyatlarını belirler, bu nedenle mevcut fiyatlandırmalarını kontrol edin. Kurulum temelleri için bir LLM API'si nasıl kullanılır bakın.

Herhangi bir ücretsiz katman için sorulacak sorular

Ücretsiz teklifler büyük ölçüde farklılık gösterir ve başlık genellikle önemli olanı söylemez. Birinin üzerine inşa etmeden önce bu soruları sorun ve cevapları sağlayıcının kendi belgelerinde bulun.

  • Hangi model bu? Bazı ücretsiz katmanlar, ücretli olanın daha küçük bir modelini kullanır. Zayıf bir modeldeki test, üretim hakkında çok şey söylemez.
  • Hız limitleri neler? Dakikada birkaç istek sınırı bir betik için iyidir ve birkaç kullanıcıya sahip bir sohbet uygulaması için kullanışsızdır.
  • Süresi doluyor mu? Son tarihli tek seferlik bir hibe, tekrarlayan aylık bir haktan farklı bir şeydir.
  • İstemlerinize ne olur? Veriler eğitim için kullanılıyorsa, içine özel bir şey yapıştırmayın. Burada istemler eğitim için kullanılmaz.
  • Ödemeli yol nasıl görünür? Ücretsizden ödemeliye geçiş bir hesap durumu değişikliği olmalı, bir yeniden yazma değil.

Açık ağırlıklı bir modeli kendi başınıza barındırmak ücretsiz yol olarak bazen önerilir. Yazılım ücretsiz olabilir, ancak yetenekli bir modeli çalıştırmak için ihtiyacınız olan GPU, saatlik kiralasanız da satın alsanız da ücretlidir. Küçük bir proje için aritmetik, yalnızca kullandığınız şey için ödeme yaptığınız ve boşta olduğunuzda hiçbir şey ödemediğiniz için token başına ödemeyi tercih eder.

Denemeyi bir test bütçesi olarak okumak

Deneyi ücretsiz bir ürün yerine bir test bütçesi olarak ele almak faydalıdır. Sabit bir sırayla harcayın: önce bağlantıyı onaylamak için birkaç düz istek, sonra çeşitli girdiler üzerinde gerçek isteminizi, ardından bir akış çalıştırmasını ve ardından modelin uzun bağlamı nasıl işlediğini görmek için kasıtlı olarak büyük bir istek. usage bloğundaki sayıları bir notta tutun.

Bundan sonra ortalama giriş boyutunuzu, ortalama çıktı boyutunuzu ve görev başına gerçek maliyetinizi bilirsiniz. Beklediğiniz trafiğe çarpın ve tahminlere değil ölçümlere dayanan bir aylık rakama sahip olursunuz. Figür kabul edilebilirse, bir sonraki adım $20'lik bir bakiye yükleme yapmaktır. Değilse, birkaç sent karşılığında bunu öğrendiniz.

Deneme süresinden sonra: ödemeli kullanımı nasıl görürsünüz

Deneme bittiğinde veya süresi dolduğunda, ön ödemeli kredi eklersiniz. $20 ile $500 arasındaki herhangi bir tam miktar çalışır. Daha büyük bakiye yüklemeleri bonus getirir: $50'den +%5, $100'den +%10, $200'den +%15. $100 bakiye yükleme $110 krediye dönüşür ve $200 $230'a dönüşür.

Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Abonelik ve aylık minimum yoktur. Kredi hiç sona ermez, bu nedenle yavaşça kullandığınız $20'lik bir yükleme boşa gitmez. Her yanıt, kendi kodunuzun bir gösterge paneli olmadan bakiyeyi izlemesini sağlayan X-Balance-USD başlığını içerir.

Başarısız veya reddedilen istekler için ücret alınmaz. Bir istek hata verirse, bunun için ödeme yapmazsınız. İstemler eğitim için kullanılmaz. Tam tablo için fiyatlandırma sayfasına bakın.

Krediyi uzun süre kullanmanın ucuz yolları

Hilelere ihtiyacınız yok, sadece birkaç alışkanlık.

  1. Geçmişi kısaltın. Her şeyi yeniden göndermek yerine son N dönüşü ve daha eskilerinin kısa bir özetini tutun.
  2. Kısa yanıtların yeterli olduğu görevlerde bir max_tokens üst sınırı belirleyin. Burada isteğe bağlıdır, ancak çıktı tarafını sınırlar, bu da token başına daha pahalı olandır.
  3. Çıkarma görevleri için JSON modunu kullanın (response_format ile json_object) böylece konuşkan giriş kısımları için ödeme yapmazsınız.
  4. Önce küçük girdilerle test yapın. İstemi on örnek üzerinde kanıtlayın, on bin tane çalıştırmadan önce.
  5. 429 hatalarını geri çekilme ile yönetin. Bir deneme anahtarında sıkı bir döngüde yeniden denemek (2 eşzamanlı, dakikada 60) kendi zamanınızı boşa harcar. Varsa Retry-After başlığını bekleyin.

Herhangi bir şey harcamadan önce seçenekleri karşılaştırıyorsanız, Hugging Face Inference API ile bu uç nokta arasındaki sayfası ilgili bir kararı ele alır.

Denemeyi harcamak için yapılan ilk çağrı

İşte minimal bir istek. Anahtarınızı panonuzdakiyle değiştirin.

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

Yanıt, istem ve tamamlama token sayılarını içeren bir kullanım bloğu içerir. Bunları yukarıdaki fiyatlarla çarpın ve çağrının kesin maliyetini elde edin. Bunu birkaç kez yaptığınızda, kendi yüklemeniz hakkında bir fikir edineceksiniz; bu, herhangi bir tahminden daha değerlidir. hızlı başlangıç dokümantasyonu akış, araçlar ve hata kodlarını kapsar.

Sorular ve cevaplar

Tipik bir kod incelemesi kaç token kullanır?

Bir fark ve bazı çevresel bağlam genellikle 5.000 ile 15.000 girdi tokenıdır ve inceleme yorumu 500 ile 1.500 çıktı tokenıdır. Bu oranlarla bu yaklaşık $0.001 ile $0.003'tür.

Bu API'yi editörümde kullanabilir miyim?

Evet, editör veya uzantı size özel bir OpenAI uyumlu base URL ve anahtar ayarlamanıza izin veriyorsa. Hesabınızdan base URL'yi, uncensored model adını ve API anahtarınızı kullanın.

Bağlam penceresi büyük dosyalar için yeterince büyük mü?

Pencere 100.000 token kapasitesindedir ve istem ile tamamlama tarafından paylaşılır. Bu, birçok dosyayı aynı anda sığdırır, ancak çok büyük depoların hala bölünmesi gerekir.

Denemek için kart gerekiyor mu?

Hayır. Yeni kullanıcılar API anahtarı sayfasında tek tıkla, kart bilgisi olmadan ve 7 gün boyunca geçerli olacak şekilde $0,50 ücretsiz deneme kredisi talep edebilir.

Anahtarınız bir web formu kadar uzaktadır

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al