HI ▾
API कुंजी पाएँ

Best LLM API गाइड

LLM API मूल्य तुलना: निष्पक्ष रूप से कैसे तुलना करें

LLM API मूल्य तुलना केवल तभी काम करती है जब हर प्रदाता को एक ही कार्यभार के लिए मूल्य निर्धारित किया गया हो, न कि केवल शीर्ष अंक के लिए। यह लेख आपको एक छोटी विधि देता है, फिर इसे $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन पर चलाता है।

अपडेट किया गया:

चमकते हुए घनों के ढेर को तौलने वाला संतुलन, जो इनपुट और आउटपुट टोकन लागतों का प्रतिनिधित्व करता है
एक स्ट्रीम में टोकन ब्लॉक्स को सर्वर में भेजते हुए आइसोमेट्रिक सिक्के, LLM API के लिए मुफ़्त ट्रायल क्रेडिट का चित्रण

मुख्य बिंदु

  • एक वास्तविक अनुरोध आकार (इनपुट टोकन, आउटपुट टोकन, टर्न) का मूल्य निर्धारण करें, न कि प्रति-मिलियन शीर्षक का।
  • आउटपुट टोकन आमतौर पर इनपुट टोकन से अधिक महंगे होते हैं, इसलिए एक चैटिंग कार्यभार रैंकिंग बदल देता है।
  • न्यूनतम टॉप-अप, समाप्ति और विफल अनुरोध बिलिंग यह बदल देते हैं कि एक डॉलर वास्तव में क्या खरीदता है।
  • $0.15 इनपुट और $0.50 आउटपुट पर, 1,500-इन / 400-आउट अनुरोध की लागत $0.000425 है।

हर मूल्य सूची छुपाती चार संख्याएं

अधिकांश मूल्य पृष्ठ दो आंकड़े दिखाते हैं: प्रति मिलियन इनपुट टोकन डॉलर और प्रति मिलियन आउटपुट टोकन डॉलर। उन दो संख्याओं से प्रदाताओं की तुलना की जा सकती है, लेकिन केवल तभी जब आप अपने ऐप से आने वाली दो और संख्याएं जोड़ें: प्रति अनुरोध आप कितने टोकन भेजते हैं और आपको कितने वापस मिलते हैं।

  1. प्रति 1M टोकन इनपुट मूल्य। इसमें आपका सिस्टम प्रॉम्प्ट, चैट इतिहास और कोई भी दस्तावेज़ शामिल है जिसे आप पेस्ट करते हैं।
  2. प्रति 1M टोकन आउटपुट मूल्य। इसमें वह सब कुछ शामिल है जो मॉडल वापस लिखता है।
  3. आपका इनपुट साइज़ प्रति अनुरोध, जिसमें हर टर्न पर पुनः भेजे जाने वाले इतिहास को भी शामिल किया गया है।
  4. प्रति अनुरोध आपका आउटपुट साइज़, जो इस बात पर निर्भर करता है कि आप जवाबों को कितनी देर तक चलने देते हैं।

प्रति अनुरोध लागत input_tokens x input_price / 1,000,000 + output_tokens x output_price / 1,000,000 है। इस लेख में बाकी सब कुछ उसी पंक्ति का विस्तार है।

चरण 1: एक अनुरोध की संरचना लिखें

उन तीन या चार अनुरोध प्रकारों का चयन करें जो आपके उत्पाद वास्तव में भेजता है। एक सहायता बॉट, एक कहानी लेखक और एक बैच वर्गीकारक के आकार बहुत अलग होते हैं, और एक प्रदाता जो एक में जीतता है, दूसरे में हार सकता है।

आकारइनपुट टोकनआउटपुट टोकन
छोटा चैट टर्न1,500400
लंबे दस्तावेज़ का सारांश50,0001,000
क्लासिफायर कॉल30020
लंबी लेखन प्रक्रिया8003,000

यदि आपके पास अभी तक लॉग्स नहीं हैं, तो कुछ वास्तविक संवाद लें और किसी भी टोकनाइज़र का उपयोग करके टोकन की गिनती करें। एक अनुमानित नियम यह है कि एक टोकन लगभग चार अंग्रेजी वर्णों के बराबर होता है, लेकिन कोड और गैर-अंग्रेजी पाठ में अधिक टोकन आते हैं। इस नियम पर भरोसा करने से पहले मापन करें।

चरण 2: $0.15 और $0.50 पर गणना चलाएं

यह सेवा 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 चार्ज करती है। इसका अर्थ है 1,000 इनपुट टोकन के लिए $0.00015 और 1,000 आउटपुट टोकन के लिए $0.0005। ऊपर दी गई संरचनाओं के लिए गणना इस प्रकार है:

आकारइनपुट लागतआउटपुट लागतप्रति अनुरोध
छोटा चैट टर्न$0.000225$0.0002$0.000425
लंबे दस्तावेज़ का सारांश$0.0075$0.0005$0.008
क्लासिफायर कॉल$0.000045$0.00001$0.000055
लंबी लेखन प्रक्रिया$0.00012$0.0015$0.00162

ध्यान दें कि पैसा कहाँ जाता है। दस्तावेज़ सारांश में, इनपुट बिल का 94% है। लंबे लेखन में, आउटपुट 93% है। एक प्रदाता जिसकी इनपुट कीमत सस्ती हो और आउटपुट की कीमत महंगी हो, पहले कार्यभार पर बहुत अच्छा लगता है लेकिन दूसरे पर खराब। यही एक "प्रति मिलियन कीमत" के आंकड़े को भ्रामक बनाता है।

इसे एक महीने के लिए स्केल करें। एक चैट ऐप जो 30 दिनों के लिए प्रतिदिन 1,000 छोटे टर्न भेजता है, 45M इनपुट टोकन ($6.75) और 12M आउटपुट टोकन ($6.00) भेजता है, कुल $12.75।

चरण 3: बढ़ते इतिहास को ध्यान में रखें

चैट APIs स्टेटलेस हैं। हर टर्न पर आप सिस्टम प्रॉम्प्ट और हर पिछले संदेश को पुनः भेजते हैं, इसलिए संवाद की लंबाई के साथ इनपुट बढ़ता है जबकि प्रति टर्न आउटपुट स्थिर रहता है।

एक 10-टर्न वाले संवाद पर विचार करें जिसमें 1,000 टोकन का सिस्टम प्रॉम्प्ट है। हर टर्न पर उपयोगकर्ता से लगभग 300 टोकन और मॉडल से 200 टोकन जुड़ते हैं, इसलिए प्रति टर्न 500 नए इतिहास टोकन जुड़ते हैं। टर्न 1 पर 1,000 इनपुट टोकन भेजे जाते हैं, टर्न 2 पर 1,500, और टर्न 10 पर 5,500। 10 टर्न के योग में 32,500 इनपुट टोकन और कुल 2,000 आउटपुट टोकन आते हैं।

input_tokens = sum(1000 + 500 * k for k in range(10))   # 32,500
output_tokens = 10 * 200                                # 2,000
cost = input_tokens * 0.15 / 1e6 + output_tokens * 0.50 / 1e6
print(round(cost, 6))   # 0.005875

यूँ तो पूरे संवाद की लागत $0.005875 है। यदि आपने केवल एक टर्न को दस से गुणा किया होता, तो आपका इनपुट का हिसाब आधा से भी कम रह जाता। यदि संख्या आपके लिए मायने रखती है, तो इतिहास को कम करें, पुराने टर्न को सारांशित करें या विंडो को कैप करें। LLM API का उपयोग करने का मार्गदर्शक बताता है कि संदेश इतिहास कैसे भेजा जाता है।

चरण 4: कीमत के आसपास के नियमों की जाँच करें

एक ही टोकन कीमत वाले दो प्रदाताओं की एक उपयोगी जवाब की लागत अलग-अलग हो सकती है। निर्णय लेने से पहले इन बातों की जाँच करें:

  • कॉन्टेक्स्ट विंडो। एक बड़ी विंडो आपको चंकिंग से बचा सकती है, लेकिन आपको हर टोकन के लिए इनपुट कीमत देनी होगी। इस सेवा में प्रॉम्प्ट और कंप्लीशन के लिए 100,000 टोकन की विंडो साझा है।
  • न्यूनतम खरीद। यहाँ आप $20 से $500 तक किसी भी पूर्ण राशि का टॉप-अप कर सकते हैं। $20 का न्यूनतम खरीद ऊपर बताई गई दर पर लगभग 47,000 छोटे चैट टर्न खरीदता है ($20 / $0.000425)।
  • समाप्ति। यहाँ क्रेडिट कभी समाप्त नहीं होता। कुछ प्रदाता प्रीपेड बैलेंस को समाप्त कर देते हैं या सब्सक्रिप्शन की माँग करते हैं, इसलिए उनकी वर्तमान शर्तों की जाँच करें।
  • असफल अनुरोध। यहाँ असफल या अस्वीकृत अनुरोधों के लिए शुल्क नहीं लिया जाता है। इसी तरह की घोषणा अन्यत्र भी देखें।
  • रेट लिमिट। एक पूर्ण कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 की अनुमति देती है। यदि आपका बैच जॉब पूरा नहीं कर पाता, तो सस्ती कीमत बेकार है।

वॉल्यूम बोनस प्रभावी मूल्य को भी कम करते हैं। $200 का टॉप-अप +15% देता है, जिससे आपको $230 का क्रेडिट मिलता है और आपकी प्रभावी दरें लगभग $0.13 इनपुट और $0.43 आउटपुट प्रति 1M तक गिर जाती हैं। $100 के टॉप-अप पर +10% और $50 पर +5% मिलता है। पूर्ण विवरण मूल्य निर्धारण पेज पर हैं।

जब सबसे सस्ता मूल्य सही विकल्प नहीं होता

प्रति टोकन मूल्य गुणवत्ता को नजरअंदाज करता है। एक ऐसा मॉडल जो सही जवाब पाने के लिए दो प्रयासों की आवश्यकता रखता है, उसका प्रत्येक उपयोगी परिणाम दोगुना खर्च करता है, और एक ऐसा मॉडल जो आपका अनुरोध अस्वीकार कर देता है, उससे आपको समय बर्बाद होता है भले ही बिल शून्य हो। प्रत्येक उम्मीदवार पर 20 से 50 वास्तविक प्रॉम्प्ट चलाएं और गिनें कि आपको कितने जवाब वास्तव में भेजने होंगे। कुल खर्च को उस गिनती से विभाजित करें।

यहाँ का मॉडल एक अकेला ओपन-वेट मॉडल है जिसे वयस्कों के वैध उपयोग के लिए बिना सामग्री अस्वीकृति के जवाब देने के लिए ट्यून्ड किया गया है। यह एक राउटर नहीं है और न ही यह किसी मॉडल वेंडर का आधिकारिक API है। यदि आपके कार्य के लिए सबसे मजबूत तर्क की आवश्यकता है और अस्वीकृतियां कोई मुद्दा नहीं हैं, तो किसी अन्य प्रदाता का एक बड़ा मॉडल अधिक टोकन मूल्य पर भी स्वीकृत जवाब प्रति लागत में बेहतर परिणाम दे सकता है। उनकी वर्तमान कीमत जांचें और उसी तरीके से परीक्षण करें।

अंकों की जांच करने का एक तेज़ तरीका

आपको अनुमान लगाने की आवश्यकता नहीं है। प्रत्येक प्रतिक्रिया में X-Balance-USD हेडर होता है, और API टोकन उपयोग भी रिपोर्ट करता है, इसलिए आप अपने वास्तविक प्रॉम्प्ट भेज सकते हैं और वास्तविक लागत पढ़ सकते हैं। नीचे दिया गया Python कोड इस सेवा के खिलाफ OpenAI SDK का उपयोग करता है और उपयोग डेटा ब्लॉक प्रिंट करता है।

from openai import OpenAI

client = OpenAI(base_url="https://api.bestllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the pros and cons of prepaid API credit."}],
)
u = resp.usage
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

नए खातों को API कुंजी पेज पर एक क्लिक के साथ $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं। 1,500-इन / 400-आउट आकार पर, जो लगभग 1,170 अनुरोधों को कवर करता है, यह ईमानदारी से बेंचमार्क करने के लिए पर्याप्त है। यदि आप पहले यह देखना चाहते हैं कि क्या एक मुफ़्त टियर आपके लिए पर्याप्त है, तो मुफ़्त LLM API विकल्पों के बारे में पढ़ें।

किसी भी फ्री टियर के बारे में पूछने योग्य प्रश्न

मुफ़्त ऑफर बहुत अलग-अलग होते हैं, और मुख्य शीर्षक अक्सर आपको वह नहीं बताता जो मायने रखता है। किसी एक पर निर्माण करने से पहले, ये प्रश्न पूछें और प्रदाता की अपनी दस्तावेज़ीकरण में जवाब खोजें।

  • यह कौन सा मॉडल है? कुछ फ्री टियर पेड वाले से छोटे मॉडल का उपयोग करते हैं। एक कमजोर मॉडल पर टेस्ट आपको उत्पादन के बारे में कम बताता है।
  • रेट लिमिट क्या है? प्रति मिनट कुछ अनुरोधों की सीमा एक स्क्रिप्ट के लिए ठीक है, लेकिन कई उपयोगकर्ताओं वाले चैट ऐप के लिए बेकार है।
  • क्या यह समाप्त हो जाता है? एक बार की अनुमति जिसकी एक समय-सीमा है, वह बार-बार मासिक अनुमति से अलग बात है।
  • आपके प्रॉम्प्ट के साथ क्या होता है? यदि डेटा को ट्रेनिंग के लिए उपयोग किया जाता है, तो उसमें कुछ भी निजी पेस्ट न करें। यहाँ, प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है।
  • पेड पाथ कैसा दिखता है? मुफ़्त से पेड में जाना खाता स्थिति का परिवर्तन होना चाहिए, न कि पुनर्लेखन।

एक ओपन-वेट मॉडल को स्वयं होस्ट करने को कभी-कभी मुफ़्त मार्ग के रूप में सुझाया जाता है। सॉफ़्टवेयर की लागत शून्य हो सकती है, लेकिन एक सक्षम मॉडल चलाने के लिए आपको जिस GPU की आवश्यकता है, उसे खरीदने या घंटे के आधार पर किराए पर लेने पर आपको खर्चा करना पड़ेगा। एक छोटे प्रोजेक्ट के लिए गणित आमतौर पर प्रति टोकन भुगतान के पक्ष में होती है, क्योंकि आप केवल उसी के लिए भुगतान करते हैं जिसका उपयोग आप करते हैं और आइडल रहने पर कुछ नहीं।

ट्रायल को टेस्ट बजट के रूप में पढ़ना

ट्रायल को एक मुफ़्त उत्पाद की बजाय एक टेस्ट बजट मानना बेहतर है। इसे एक निश्चित क्रम में खर्च करें: पहले कनेक्शन की पुष्टि के लिए कुछ सादे अनुरोध, फिर विविध इनपुट पर आपका असली प्रॉम्प्ट, फिर एक स्ट्रीमिंग रन, और फिर एक जानबूझकर बड़ा प्रॉम्प्ट ताकि देख सकें कि मॉडल लंबे कॉन्टेक्स्ट को कैसे हैंडल करता है। usage ब्लॉक से संख्याओं को एक नोट में रखें।

उसके बाद आपको अपना औसत इनपुट साइज, अपना औसत आउटपुट साइज और कार्य प्रति वास्तविक लागत पता चलता है। अपनी अपेक्षित ट्रैफ़िक से गुणा करें और आपके पास एक मासिक आंकड़ा होता है जो मापन पर टिका है, अनुमान पर नहीं। यदि आंकड़ा स्वीकार्य है, तो $20 का टॉप-अप अगला कदम है। यदि नहीं, तो आपने कुछ सेंटों के लिए यह सीखा है।

ट्रायल के बाद: भुगतान कैसा दिखता है

जब ट्रायल समाप्त हो जाता है या उसकी अवधि समाप्त हो जाती है, तो आप प्रीपेड क्रेडिट जोड़ते हैं। $20 से $500 तक कोई भी पूर्ण राशि काम करती है। बड़े टॉप-अप एक बोनस लाते हैं: $50 से +5%, $100 से +10%, $200 से +15%। $100 का टॉप-अप $110 क्रेडिट बन जाता है, और $200 $230 बन जाता है।

आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। कोई सब्सक्रिप्शन और कोई मासिक न्यूनतम नहीं है। क्रेडिट कभी समाप्त नहीं होता, इसलिए एक $20 का टॉप-अप जो आप धीरे-धीरे उपयोग करते हैं, व्यर्थ नहीं जाता। प्रत्येक प्रतिक्रिया में एक X-Balance-USD हेडर होता है, जो आपके अपने कोड को बैलेंस देखने की अनुमति देता है, डैशबोर्ड के बिना।

असफल या अस्वीकृत अनुरोधों पर चार्ज नहीं किया जाता है। यदि एक अनुरोध त्रुटि देता है, तो आप उसके लिए भुगतान नहीं करते। प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है। पूर्ण तालिका के लिए मूल्य निर्धारण देखें।

क्रेडिट को टिकाऊ बनाने के सस्ते तरीके

आपको चालों की आवश्यकता नहीं है, केवल कुछ आदतों की।

  1. इतिहास कम करें। सब कुछ फिर से भेजने के बजाय, केवल अंतिम N बातचीत और पुरानी बातचीत का एक संक्षिप्त सारांश रखें।
  2. max_tokens की एक ऊपरी सीमा उन कार्यों पर सेट करें जहाँ छोटे जवाब काफी हैं। यह यहाँ वैकल्पिक है, लेकिन यह आउटपुट पक्ष को कैप करता है, जो प्रति टोकन अधिक महंगा है।
  3. JSON मोड (response_format के साथ json_object) का उपयोग डेटा निष्कर्षण कार्यों के लिए करें ताकि आप अनावश्यक प्रस्तावनाओं के लिए न भुगतें।
  4. पहले छोटे इनपुट के साथ टेस्ट करें। दस उदाहरणों पर प्रॉम्प्ट को साबित करें, फिर दस हजार चलाएं।
  5. बैकऑफ़ के साथ 429 को संभालें। एक ट्रायल कुंजी (2 समवर्ती, प्रति मिनट 60) पर एक तंग लूप में फिर से कोशिश करना आपका अपना समय बर्बाद करता है। जब Retry-After हेडर मौजूद हो, तो उसका इंतज़ार करें।

यदि आप कुछ भी खर्च करने से पहले विकल्पों की तुलना कर रहे हैं, तो Hugging Face Inference API बनाम यह एंडपॉइंट पेज एक संबंधित निर्णय को कवर करता है।

ट्रायल खर्च करने के लिए एक पहला कॉल

यहाँ एक न्यूनतम अनुरोध है। कुंजी को अपने डैशबोर्ड से प्राप्त कुंजी से बदलें।

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

प्रतिक्रिया में प्रॉम्प्ट और पूर्णता टोकन गणना वाले उपयोग ब्लॉक शामिल है। उन मूल्यों को ऊपर दिए गए मूल्य से गुणा करें और आपको कॉल का सटीक खर्च मिल जाएगा। इसे कुछ बार दोहराने पर आपको अपने कार्यभार का अंदाज़ा होने लगेगा, जो किसी भी अनुमान से कहीं अधिक मूल्यवान है। त्वरित प्रारंभ दस्तावेज़ स्ट्रीमिंग, टूल्स और त्रुटि कोड कवर करते हैं।

प्रश्न और उत्तर

क्या मुझे इनपुट मूल्य या आउटपुट मूल्य की तुलना करनी चाहिए?

दोनों, अपने स्वयं के कार्यभार के अनुसार वजन दिए गए। दस्तावेज़-केंद्रित कार्यों में इनपुट मूल्य प्रमुख होता है, और लेखन-केंद्रित कार्यों में आउटपुट मूल्य।

खरीदने से पहले टोकन की गिनती कैसे करें?

वास्तविक प्रॉम्प्ट का एक नमूना टोकनाइज़र से चलाएं, या उन्हें API पर भेजें और प्रतिक्रिया में उपयोग ब्लॉक पढ़ें। उपयोग संख्याएं वे हैं जिन पर आपको बिल किया जाता है।

क्या विफल अनुरोधों की यहाँ लागत आती है?

नहीं। इस सेवा पर असफल या अस्वीकृत अनुरोधों पर चार्ज नहीं किया जाता है। अपनी तुलना करने वाले किसी भी अन्य प्रदाता की शर्तें जांचें।

क्या कोई सब्सक्रिप्शन है?

नहीं। यह प्रीपेड क्रेडिट से उपयोग के अनुसार भुगतान है, और क्रेडिट कभी समाप्त नहीं होता।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ