HI ▾
API कुंजी पाएँ

Best LLM API गाइड

कोडिंग के लिए सबसे सस्ता LLM API: प्रत्येक पुल रिक्वेस्ट की लागत

कोडिंग के लिए सबसे सस्ता LLM API वह है जिसकी स्वीकृत बदलाव के लिए लागत सबसे कम है, न कि कीमत पृष्ठ पर सबसे नीची लाइन। नीचे सामान्य कोडिंग कार्यों के लिए टोकन अनुमान दिए गए हैं, $0.15 प्रति 1M इनपुट और $0.50 प्रति 1M आउटपुट टोकन की दर पर।

अपडेट किया गया:

कोड टाइल्स का ढेर और एक शाखा एक मुख्य लाइन में मिलती हुई, बगल में एक छोटा सिक्का स्लॉट
एक स्ट्रीम में टोकन ब्लॉक्स को सर्वर में भेजते हुए आइसोमेट्रिक सिक्के, LLM API के लिए मुफ़्त ट्रायल क्रेडिट का चित्रण

मुख्य बिंदु

  • ऑटोकम्प्लीट कॉल प्रति सस्ता है लेकिन बारंबार; एक एजेंट लूप कोडबेस को फिर से पढ़ता है और प्रति कार्य बहुत अधिक लागत आती है।
  • एक रिव्यू किए गए पुल रिक्वेस्ट के साथ 10,000-टोकन प्रॉम्प्ट की लागत इन दरों पर लगभग $0.0021 है।
  • 15 स्टेप्स का एक एजेंट रन, लगभग 375,000 इनपुट टोकन, लगभग $0.06 का खर्च करता है।
  • एक सस्ता सामान्य मॉडल रूटीन कार्य के लिए अच्छा विकल्प है; कठिन डीबगिंग एक मजबूत मॉडल की जरूरत बता सकती है।

कोडिंग वर्कलोड्स ज्यादातर इनपुट टोकन होते हैं

कोड टास्क एक असमान आकार रखते हैं। आप बहुत सारा कॉन्टेक्स्ट भेजते हैं (फ़ाइल, डिफ़, त्रुटि, संबंधित मॉड्यूल) और आप एक छोटा पैच या एक छोटा कमेंट प्राप्त करते हैं। इनपुट आमतौर पर टोकन का 70 से 95 प्रतिशत होता है, जिससे इनपुट की कीमत कोडिंग के लिए सबसे महत्वपूर्ण संख्या बन जाती है।

$0.15 प्रति 1M इनपुट टोकन पर, 10,000-टोकन वाले प्रॉम्प्ट की लागत $0.0015 है। $0.50 प्रति 1M आउटपुट टोकन पर, 1,000-टोकन वाले उत्तर की लागत $0.0005 है। एक कोडिंग सहायक जो बहुत कुछ पढ़ता है और थोड़ा लिखता है, अपने बजट का अधिकांश हिस्सा पढ़ने पर खर्च करेगा। अपवाद फ़ाइल की पूरी रीराइट है, जहाँ आउटपुट फ़ाइल के बराबर होता है।

यह इस बात की भी व्याख्या करता है कि कोडिंग में आउटपुट साइड की कीमत को आसानी से अधिक आंका क्यों जाता है। यदि कोई टूल हर पैच के साथ व्याख्याएं मांगता है, तो आउटपुट बढ़ता है और अनुपात बदल जाता है, इसलिए जल्दी तय करें कि आपको केवल कोड चाहिए या तर्क के साथ कोड, और सिस्टम प्रॉम्प्ट को मेल करने के लिए सेट करें। "केवल एक यूनिफाइड डिफ़ लौटाएं" जैसी एक लाइन एक मुफ्त बचत है।

चार कार्य, प्रत्येक की अलग कीमत

नीचे दिए गए अंदाज़े आप अपनी जगह रख सकते हैं। बजट तय करने से पहले, टोकनाइज़र का उपयोग करके कुछ वास्तविक प्रॉम्प्ट्स को मापें।

कार्यइनपुटआउटपुटप्रत्येक कॉल की लागत
इनलाइन ऑटोकम्प्लीट80060$0.00015
पुल रिक्वेस्ट रिव्यू10,0001,200$0.0021
एक 8,000-टोकन वाली फ़ाइल का रिफैक्टर8,5008,000$0.005275
एजेंट रन, 15 स्टेप्स375,00012,000$0.06225

रिव्यू पंक्ति के लिए गणना: 10,000 x 0.15 / 1M = $0.0015, प्लस 1,200 x 0.50 / 1M = $0.0006, कुल $0.0021। रिफैक्टर के लिए: $0.001275 इनपुट प्लस $0.004 आउटपुट। ध्यान दें कि रिफैक्टर में लागत का तीन-चौथाई हिस्सा आउटपुट पर जाता है, क्योंकि मॉडल पूरी फ़ाइल को फिर से लिखता है।

एजेंट पंक्ति देखने योग्य है। एक एजेंट जो फ़ाइलें पढ़ता है, टेस्ट चलाता है और रीट्राइ करता है, हर स्टेप पर बढ़ते कॉन्टेक्स्ट को फिर से भेजता है। औसतन 25,000 इनपुट टोकन वाले 15 स्टेप्स मिलकर 375,000 इनपुट टोकन बनाते हैं, जो $0.05625 है, प्लस 12,000 आउटपुट टोकन के लिए $0.006।

एक डेवलपर के लिए एक महीने का दृश्य

मान लें कि एक डेवलपर महीने में 22 दिन काम करता है और हर महीने निम्नलिखित कार्य करता है: प्रतिदिन 600 ऑटोकम्प्लीट अनुरोध, 40 पुल रिक्वेस्ट समीक्षा, 40 एजेंट रन और 20 सिंगल-फ़ाइल रिफैक्टर।

  • ऑटोकम्प्लीट: 13,200 कॉल्स x $0.00015 = $1.98
  • रिव्यू: 40 x $0.0021 = $0.084
  • एजेंट रन: 40 x $0.06225 = $2.49
  • रिफैक्टर: 20 x $0.005275 = $0.1055

कुल मिलाकर यह प्रति डेवलपर प्रति माह लगभग $4.66 आता है। दस सदस्यों की टीम के लिए यह लगभग $47 होगा। यदि आपकी अनुमानित लागत तीन गुना भी हो जाए, तो बिल व्यक्तिगत रूप से $15 से कम ही रहेगा। आप मूल्य निर्धारण पृष्ठ का उपयोग करके दरों और टॉप-अप बोनस की जाँच कर सकते हैं; $100 का टॉप-अप 10% जोड़ता है, जिससे $110 का क्रेडिट मिलता है।

बिल कमजोर पक्ष नहीं, सीमाएँ हैं। एक फुल API कुंजी प्रति मिनट 300 अनुरोध और 8 समानांतर अनुरोधों की अनुमति देती है। एक एडिटर जो टाइपिंग में हर रुकावट पर अनुरोध भेजता है, वह तेज़ी से उस सीमा तक पहुँच सकता है यदि पूरी टीम एक ही कुंजी साझा कर रही हो। हर व्यक्ति को एक अलग कुंजी दें या ऑटोकम्प्लीट को डीबाउंस करें।

इसे एडिटर या स्क्रिप्ट में जोड़ें

API OpenAI-संगत है, इसलिए कोई भी टूल जो कस्टम बेस URL और कुंजी स्वीकार करता है, उसे उपयोग कर सकता है। कई एडिटर एक्सटेंशन और CLI एजेंट में ये दो सेटिंग्स होती हैं। बेस URL को https://api.bestllmapi.com/v1, मॉडल को uncensored पर सेट करें और अपनी कुंजी पेस्ट करें।

डिफ़ को रिव्यू करने और लागत प्रिंट करने वाली स्क्रिप्ट के लिए, OpenAI Python SDK का उपयोग करें:

import subprocess
from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")
diff = subprocess.run(["git", "diff", "main...HEAD"], capture_output=True, text=True).stdout

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a strict code reviewer. List bugs first, then style notes."},
        {"role": "user", "content": diff},
    ],
    temperature=0.2,
)
print(resp.choices[0].message.content)
u = resp.usage
print("cost: $%.6f" % (u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6))

रिव्यू और रिफैक्टर कार्य के लिए temperature को कम रखें। API दस्तावेज़ उन पैरामीटर्स की सूची देते हैं जो पास किए जाते हैं, जिसमें seed भी शामिल है, जो CI में दोहराने योग्य आउटपुट के लिए मददगार होता है।

कोडिंग बिल कम रखने के तरीके

  • डिफ़ भेजें, पूरे रिपॉजिटरी नहीं। ऊपर दिया गया रिव्यू 10,000 टोकन का उपयोग करता है क्योंकि यह डिफ़ और कुछ संदर्भ भेजता है।
  • एजेंट चरणों पर सीमा लगाएं। एक लूप जो कभी नहीं रुकता, हैरान करने वाले बिल का सबसे आम कारण है। निश्चित संख्या में चरणों के बाद रुकें।
  • टूल आउटपुट को काटें। 5,000 पंक्तियों वाला टेस्ट लॉग हर बाद के चरण में पेस्ट हो जाता है। केवल विफल पंक्तियों को रखें।
  • पैच मांगें। पूरे फ़ाइल के बजाय एक यूनिफ़ाइड डिफ़ मांगने से रीफैक्टर उदाहरण में आउटपुट लगभग 90 प्रतिशत कम हो जाता है जब परिवर्तन छोटा हो।
  • संरचित आउटपुट के लिए JSON मोड का उपयोग करें। response_format के साथ json_object दोषपूर्ण प्रतिक्रियाओं से होने वाले रीट्राई लूप से बचाता है।

असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए यदि कोई अनुरोध त्रुटि देता है तो उसमें कोई लागत नहीं आती है।

जब सस्ता मॉडल सही विकल्प नहीं है

यह एक सामान्य ओपन-वेट मॉडल है जिसे वयस्कों के वैध उपयोग के लिए बिना सेंसर उत्तर देने के लिए ट्यून्ड किया गया है। यह विशेष कोडिंग मॉडल नहीं है, और यह किसी भी वेंडर का आधिकारिक API नहीं है। बूलरप्लेट, टेस्ट, डॉकस्ट्रिंग, छोटे रिफैक्टर्स और रिव्यू कमेंट्स जैसे रूटीन कार्यों के लिए, यह एक समझदारी भरा कम लागत वाला विकल्प है। एक अजनबी कोडबेस में गहरी डिबगिंग या बड़ी आर्किटेक्चरल बदलाव के लिए, एक मजबूत मॉडल आपको टोकन की लागत से कहीं ज़्यादा डेवलपर समय बचा सकता है।

निर्णय लेने का तरीका है कि अपने बैकलॉग से 20 वास्तविक कार्य प्रत्येक उम्मीदवार पर चलाएं, उन पैच की गिनती करें जिन्हें आप मर्ज करेंगे, और खर्च को उस संख्या से विभाजित करें। साइन-अप के बाद API कुंजी पेज पर दावा किया गया $0.50 ट्रायल क्रेडिट ऊपर दिए गए रेट पर कुछ सौ रिव्यू कवर करता है, जो उस टेस्ट के लिए पर्याप्त है। अन्य प्रदाता अपनी कीमतें तय करते हैं, इसलिए उनकी वर्तमान कीमतें जांचें। सेटअप के लिए, LLM API का उपयोग कैसे करें देखें।

किसी भी फ्री टियर के बारे में पूछने योग्य प्रश्न

मुफ़्त ऑफर बहुत अलग-अलग होते हैं, और मुख्य शीर्षक दुर्लभ रूप से आपको वह नहीं बताता जो मायने रखता है। किसी एक पर निर्माण करने से पहले, ये प्रश्न पूछें और प्रदाता की अपनी दस्तावेज़ीकरण में जवाब खोजें।

  • यह कौन सा मॉडल है? कुछ मुफ़्त स्तर पेड वाले से छोटे मॉडल का उपयोग करते हैं। एक कमजोर मॉडल पर टेस्ट आपको प्रोडक्शन के बारे में कम बताता है।
  • रेट लिमिट क्या है? प्रति मिनट कुछ अनुरोधों की सीमा एक स्क्रिप्ट के लिए ठीक है, लेकिन कई उपयोगकर्ताओं वाले चैट ऐप के लिए बेकार है।
  • क्या यह समाप्त हो जाता है? एक बार की अनुमति जिसकी एक समय-सीमा है, वह बार-बार मासिक अनुमति से अलग बात है।
  • आपके प्रॉम्प्ट के साथ क्या होता है? यदि डेटा को प्रशिक्षण के लिए उपयोग किया जाता है, तो उसमें कुछ भी निजी पेस्ट न करें। यहाँ, प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।
  • भुगतान वाला मार्ग कैसा दिखता है? मुफ़्त से भुगतान में बदलना खाता अवस्था का परिवर्तन होना चाहिए, पुनर्लेखन नहीं।

ओपन-वेट मॉडल को स्वयं होस्ट करने को कभी-कभी मुफ़्त रास्ता बताया जाता है। सॉफ़्टवेयर की लागत शून्य हो सकती है, लेकिन एक सक्षम मॉडल चलाने के लिए आपको जो GPU चाहिए, वह निःशुल्क नहीं है, चाहे आप इसे घंटे के आधार पर किराए पर लें या खरीदें। एक छोटे प्रोजेक्ट के लिए गणना आमतौर पर प्रति टोकन भुगतान करने के पक्ष में होती है, क्योंकि आप केवल उसी के लिए भुगतान करते हैं जिसका उपयोग आप करते हैं और निष्क्रिय अवस्था में कुछ भी नहीं।

ट्रायल को टेस्ट बजट के रूप में पढ़ना

ट्रायल को एक मुफ़्त उत्पाद के बजाय एक परीक्षण बजट मानना उपयोगी है। इसे निश्चित क्रम में खर्च करें: पहले कनेक्शन की पुष्टि के लिए कुछ सादे अनुरोध, फिर विविध इनपुट पर अपने वास्तविक प्रॉम्प्ट, फिर एक स्ट्रीमिंग चलाव, और फिर एक जानबूझकर बड़ा प्रॉम्प्ट यह देखने के लिए कि मॉडल लंबे कॉन्टेक्स्ट को कैसे संभालता है। usage ब्लॉक से संख्याओं को एक नोट में रखें।

उसके बाद आपको अपना औसत इनपुट साइज, अपना औसत आउटपुट साइज और कार्य प्रति वास्तविक लागत पता चलता है। अपनी अपेक्षित ट्रैफ़िक से गुणा करें और आपके पास एक मासिक आंकड़ा होता है जो मापन पर टिका है, अनुमान पर नहीं। यदि आंकड़ा स्वीकार्य है, तो $20 का टॉप-अप अगला कदम है। यदि नहीं, तो आपने कुछ सेंटों की लागत पर यह सीखा है।

ट्रायल के बाद: भुगतान कैसा दिखता है

जब ट्रायल समाप्त हो जाता है या उसकी अवधि समाप्त हो जाती है, तो आप प्रीपेड क्रेडिट जोड़ते हैं। $20 से $500 तक कोई भी पूर्ण राशि काम करती है। बड़े टॉप-अप एक बोनस लाते हैं: $50 से +5%, $100 से +10%, $200 से +15%। $100 का टॉप-अप $110 क्रेडिट बन जाता है, और $200 $230 बन जाता है।

आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। कोई सब्सक्रिप्शन और कोई मासिक न्यूनतम नहीं है। क्रेडिट कभी समाप्त नहीं होता, इसलिए $20 का टॉप-अप जो आप धीरे-धीरे उपयोग करते हैं, व्यर्थ नहीं जाता। प्रत्येक प्रतिक्रिया में एक X-Balance-USD हेडर होता है, जो आपके कोड को डैशबोर्ड के बिना बैलेंस देखने की अनुमति देता है।

असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। यदि किसी अनुरोध में त्रुटि आती है, तो आप उसके लिए भुगतान नहीं करते। प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है। पूर्ण तालिका के लिए मूल्य निर्धारण देखें।

क्रेडिट को टिकाऊ बनाने के सस्ते तरीके

आपको ट्रिक्स की आवश्यकता नहीं है, केवल कुछ आदतें।

  1. इतिहास काटें। पिछले N टर्न्स को रखें और पुराने टर्न्स का एक छोटा सारांश रखें, सब कुछ फिर से भेजने के बजाय।
  2. max_tokens की एक सीमा उन कार्यों पर सेट करें जहाँ छोटे जवाब काफी हैं। यह यहाँ वैकल्पिक है, लेकिन यह आउटपुट साइड को कैप करता है, जो प्रति टोकन अधिक महंगा है।
  3. JSON मोड (response_format के साथ json_object) का उपयोग एक्सट्रैक्शन टास्क के लिए करें ताकि आप चैटी प्रीएम्बल्स के लिए न भुगतें।
  4. पहले छोटे इनपुट के साथ टेस्ट करें। दस उदाहरणों पर प्रॉम्प्ट को साबित करें, फिर दस हजार चलाएं।
  5. बैकऑफ़ के साथ 429 को संभालें। एक ट्रायल कुंजी (2 समानांतर, प्रति मिनट 60) पर तेज़ लूप में फिर से कोशिश करना आपका अपना समय बर्बाद करता है। जब Retry-After हेडर मौजूद हो, तो उसका इंतज़ार करें।

यदि आप कुछ भी खर्च करने से पहले विकल्पों की तुलना कर रहे हैं, तो Hugging Face Inference API बनाम यह एंडपॉइंट पेज एक संबंधित निर्णय को कवर करता है।

ट्रायल खर्च करने के लिए एक पहला कॉल

यहाँ एक न्यूनतम अनुरोध है। कुंजी को अपने डैशबोर्ड से प्राप्त कुंजी से बदलें।

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

प्रतिक्रिया में प्रॉम्प्ट और पूर्णता टोकन गणना वाले उपयोग ब्लॉक शामिल है। उन मूल्यों को ऊपर दिए गए मूल्य से गुणा करें और आपको कॉल का सटीक खर्च मिल जाएगा। इसे कुछ बार दोहराने पर आपको अपने कार्यभार का अंदाजा होने लगेगा, जो किसी भी अनुमान से कहीं अधिक मूल्यवान है। क्विकस्टार्ट दस्तावेज़ स्ट्रीमिंग, टूल्स और त्रुटि कोड कवर करते हैं।

प्रश्न और उत्तर

एक सामान्य कोड रिव्यू में कितने टोकन उपयोग होते हैं?

डिफ़ और कुछ आस-पास का कॉन्टेक्स्ट अक्सर 5,000 से 15,000 इनपुट टोकन होता है, और रिव्यू कमेंट 500 से 1,500 आउटपुट टोकन होता है। इन दरों पर यह लगभग $0.001 से $0.003 आता है।

क्या मैं इस API को अपने एडिटर में उपयोग कर सकता हूँ?

हाँ, यदि एडिटर या एक्सटेंशन आपको एक कस्टम OpenAI-कम्पैटिबल बेस URL और कुंजी सेट करने देता है। अपने खाते से बेस URL, मॉडल नाम uncensored और अपनी API कुंजी का उपयोग करें।

क्या कॉन्टेक्स्ट विंडो बड़ी फ़ाइलों के लिए पर्याप्त रूप से बड़ी है?

विंडो 100,000 टोकन की है, जो प्रॉम्प्ट और पूर्णता दोनों के लिए साझा है। यह एक साथ कई फ़ाइलों को फिट करता है, लेकिन बहुत बड़े रिपॉजिटरी को अभी भी विभाजित करने की आवश्यकता होती है।

क्या इसे आज़माने के लिए कार्ड की आवश्यकता है?

नहीं। नए उपयोगकर्ता API कुंजी पृष्ठ पर एक क्लिक के साथ $0.50 का ट्रायल क्रेडिट दावा कर सकते हैं, बिना कार्ड के, जो 7 दिनों के लिए मान्य है।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ