HI ▾
API कुंजी पाएँ

Best LLM API गाइड

क्या कोई LLM API मुफ़्त है? वास्तव में आपको क्या मिलता है

कोई भी होस्टेड LLM API आपको लंबे समय तक एक अच्छे मॉडल का अनलिमिटेड मुफ़्त उपयोग नहीं देती। आप जो प्राप्त कर सकते हैं वह एक छोटा मुफ़्त आवंटन है, और उपयोगी सवाल यह है कि वह कितनी दूर तक जाता है।

अपडेट किया गया:

एक स्ट्रीम में टोकन ब्लॉक्स को सर्वर में भेजते हुए आइसोमेट्रिक सिक्के, LLM API के लिए मुफ़्त ट्रायल क्रेडिट का चित्रण

मुख्य बिंदु

  • यहाँ कोई मुफ़्त अनलिमिटेड टायर नहीं है। नए उपयोगकर्ताओं को $0.50 ट्रायल मिलता है, जो 7 दिनों के लिए वैध है, बिना कार्ड के।
  • $0.15 प्रति 1M इनपुट और $0.50 प्रति 1M आउटपुट पर, $0.50 लगभग 1,000 छोटी चैट बारी कवर करता है।
  • ट्रायल के बाद आप प्रीपेड क्रेडिट से उपयोगानुसार भुगतान करते हैं, जो $20 से शुरू होता है, और क्रेडिट कभी समाप्त नहीं होता।
  • विफल या अस्वीकृत अनुरोधों पर कोई शुल्क नहीं लगाया जाता।

संक्षिप्त उत्तर

यदि आप किसी भी LLM API मुफ़्त खोज रहे हैं, तो आप संभवतः दो चीज़ों में से एक चाहते हैं: बिना भुगतान किए किसी विचार का परीक्षण करने का तरीका, या कुछ महीनों तक बिना किसी लागत के चलाने का तरीका। पहला यथार्थवादी है। दूसरा नहीं है, और जो भी इसे वादा करता है वह या तो आपको कठोरता से सीमित कर रहा है, अपने प्रॉम्प्ट पर प्रशिक्षण दे रहा है, या बाद में आपको शुल्क वसूलने की योजना बना रहा है।

एक बड़े भाषा मॉडल को चलाने में GPU और बिजली के लिए असली पैसा खर्च होता है, इसलिए हर होस्टेड API तीन रूपों में से किसी एक में समाप्त होती है: एक छोटा मुफ़्त भत्ता, एक कमजोर मॉडल पर रेट लिमिटेड मुफ़्त टायर, या भुगतान क्रेडिट। यह साइट पहले रूप का उपयोग करती है। आपको एक बार का ट्रायल मिलता है, और उसके बाद आप सब्सक्रिप्शन के बिना प्रति टोकन भुगतान करते हैं।

अन्य प्रदाता अपने मुफ़्त स्तर चलाते हैं, और वे अक्सर बदलते रहते हैं। किसी भी चीज़ के लिए एक ब्लॉग पोस्ट, इसमें शामिल, पर भरोसा करने के बजाय उनकी वर्तमान मूल्य सूची पृष्ठों की जाँच करें।

ट्रायल में क्या शामिल है

Google या ईमेल और पासवर्ड से साइन इन करने के बाद, API कुंजी पृष्ठ पर $0.50 ट्रायल क्रेडिट प्राप्त करने का बटन दिखाई देता है। एक क्लिक, कोई कार्ड नहीं, प्रति व्यक्ति एक बार। क्रेडिट 7 दिनों के लिए मान्य है।

ट्रायल कुंजी जानबूझकर एक पूर्ण कुंजी से थोड़ी सख्त होती है:

  • 2 समानांतर अनुरोध और प्रति मिनट 60 अनुरोध, जबकि पूर्ण कुंजी पर 8 और 300 होते हैं।
  • वही मॉडल, वही uncensored मॉडल ID, वही 100,000-टोकन कॉन्टेक्स्ट विंडो।
  • स्ट्रीमिंग, टूल कॉलिंग और JSON मोड सभी काम करते हैं।

इसका मतलब है कि आप उस चीज़ का परीक्षण कर सकते हैं जिसे आप वास्तव में बनाने की योजना बना रहे हैं, न कि एक कमज़ोर डेमो। यदि आपकी एप्लिकेशन लंबे सिस्टम प्रॉम्प्ट या टूल कॉल पर टूट जाती है, तो आप यह ट्रायल के दौरान जान जाते हैं, भुगतान करने के बाद नहीं। इसे क्लेम करने के लिए, API कुंजी पृष्ठ पर जाएं।

$0.50 से टोकन में क्या मिलता है

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। इनपुट वह है जो आप भेजते हैं (सिस्टम प्रॉम्प्ट, इतिहास, आपका संदेश)। आउटपुट वह है जो मॉडल वापस लिखता है। गणना सरल विभाजन है, इसलिए यहाँ पूरी गणना दी गई है।

बजटयदि सभी इनपुटयदि सभी आउटपुट
$0.50 ट्रायल3,333,333 टोकन1,000,000 टोकन
$20 टॉप-अप133,333,333 टोकन40,000,000 टोकन

वास्तविक ट्रैफ़िक एक मिश्रण है, इसलिए एक कार्य उदाहरण का उपयोग करें। एक चैट टर्न जिसमें 1,500-टोकन प्रॉम्प्ट (सिस्टम संदेश और एक छोटा इतिहास) और 500-टोकन जवाब होता है, उसकी लागत होती है:

  • इनपुट: 1,500 / 1,000,000 x $0.15 = $0.000225
  • आउटपुट: 500 / 1,000,000 x $0.50 = $0.000250
  • कुल: प्रति टर्न $0.000475

$0.50 को $0.000475 से विभाजित करें और आपको लगभग 1,052 टर्न मिलते हैं। ट्रायल के लिए यह बहुत सारा परीक्षण है: एक प्रॉम्प्ट लिखने, कुछ सौ परीक्षण संवाद चलाने और यह जाँचने के लिए कि मॉडल आपके एज केस पर कैसे व्यवहार करता है, यह पर्याप्त है। यह एक सार्वजनिक ऐप को एक सप्ताह तक चलाने के लिए पर्याप्त नहीं है।

मुफ़्त क्रेडिट कहाँ खत्म होता है

छोटे चैट टर्न सस्ते मामले हैं। तीन पैटर्न अपेक्षा से तेज़ी से क्रेडिट जलाते हैं, और शुरू करने से पहले उन्हें जानना मददगार होता है।

लंबे प्रॉम्प्ट जो हर टर्न पर बढ़ते हैं

एक चैट क्लाइंट जो पूरा इतिहास फिर से भेजता है, हर टर्न पर उस इतिहास के लिए भुगतान करता है। टर्न 40 पर, 20,000-टोकन इतिहास और 500-टोकन जवाब के साथ, एक अनुरोध की लागत इनपुट के लिए 20,000 / 1,000,000 x $0.15 = $0.003 और आउटपुट के लिए $0.00025 होती है, इसलिए $0.00325। अभी भी छोटा, लेकिन यह ऊपर दिए गए 1,500-टोकन टर्न की लागत से लगभग सात गुना अधिक है। $0.50 का ट्रायल लगभग 153 ऐसे टर्न के लिए चलता है।

एजेंट और टूल लूप

एजेंट जो टूल कॉलिंग करता है, वह प्रत्येक उपयोगकर्ता कार्य के लिए कई अनुरोध भेजता है, और प्रत्येक में बढ़ता हुआ कॉन्टेक्स्ट शामिल होता है। यदि एक कार्य 6 कॉल लेता है जिसमें औसतन 8,000 इनपुट टोकन और 300 आउटपुट टोकन होते हैं, तो यह 48,000 इनपुट टोकन ($0.0072) और 1,800 आउटपुट टोकन ($0.0009) होता है, यानी प्रति कार्य $0.0081। ट्रायल लगभग 61 ऐसे कार्यों को कवर करता है।

अधिकतम-आकार वाले प्रॉम्प्ट

पूरे 100,000-टोकन विंडो को इनपुट से भरने पर प्रति अनुरोध $0.015 की लागत आती है, किसी आउटपुट से पहले। यह कुछ दस्तावेज़-विश्लेषण रन के लिए ठीक है, लेकिन यदि कोई स्क्रिप्ट इस पर एक हजार बार लूप चलाती है तो यह महंगा है ($15)।

किसी भी फ्री टियर के बारे में पूछने योग्य प्रश्न

मुफ़्त ऑफर बहुत अलग-अलग होते हैं, और मुख्य शीर्षक शायद ही कभी आपको वह बताता है जो मायने रखता है। किसी एक पर बिल्ड करने से पहले, ये प्रश्न पूछें और प्रदाता की अपनी दस्तावेज़ीकरण में जवाब खोजें।

  • यह कौन सा मॉडल है? कुछ फ्री टियर पेड वाले से छोटे मॉडल का उपयोग करते हैं। एक कमजोर मॉडल पर टेस्ट आपको उत्पादन के बारे में कम बताता है।
  • रेट लिमिट क्या है? प्रति मिनट कुछ अनुरोधों की सीमा एक स्क्रिप्ट के लिए ठीक है, लेकिन कई उपयोगकर्ताओं वाले चैट ऐप के लिए बेकार है।
  • क्या यह समाप्त हो जाता है? एक बार का आवंटन जिसकी एक समय-सीमा है, वह हर महीने दोहराए जाने वाले आवंटन से अलग बात है।
  • आपके प्रॉम्प्ट के साथ क्या होता है? यदि डेटा को ट्रेनिंग के लिए उपयोग किया जाता है, तो उसमें कुछ भी निजी पेस्ट न करें। यहाँ, प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है।
  • भुगतान मार्ग कैसा दिखता है? मुफ़्त से भुगतान में जाना खाता स्थिति में बदलाव होना चाहिए, न कि पुनर्लेखन।

ओपन-वेट मॉडल को स्वयं होस्ट करना कभी-कभी मुफ़्त मार्ग के रूप में सुझाया जाता है। सॉफ़्टवेयर की लागत कुछ भी नहीं हो सकती है, लेकिन एक सक्षम मॉडल चलाने के लिए आपको जो GPU चाहिए, वह होती है, चाहे आप इसे घंटे के आधार पर किराए पर लें या खरीदें। एक छोटे प्रोजेक्ट के लिए अंकगणित आमतौर पर प्रति टोकन भुगतान करने के पक्ष में होती है, क्योंकि आप केवल उसी के लिए भुगतान करते हैं जिसका उपयोग आप करते हैं और निष्क्रिय होने पर कुछ भी नहीं।

ट्रायल को टेस्ट बजट के रूप में पढ़ना

ट्रायल को एक मुफ़्त उत्पाद के बजाय एक परीक्षण बजट मानना उपयोगी है। इसे निश्चित क्रम में खर्च करें: पहले कनेक्शन की पुष्टि के लिए कुछ सादे अनुरोध, फिर विविध इनपुट पर आपके वास्तविक प्रॉम्प्ट, फिर एक स्ट्रीमिंग रन, और फिर एक जानबूझकर बड़ा प्रॉम्प्ट यह देखने के लिए कि मॉडल लंबे कॉन्टेक्स्ट को कैसे संभालता है। usage ब्लॉक से संख्याओं को एक नोट में रखें।

उसके बाद आपको अपना औसत इनपुट साइज, अपना औसत आउटपुट साइज और प्रति कार्य वास्तविक लागत पता चलता है। अपनी अपेक्षित ट्रैफ़िक से गुणा करें और आपके पास एक मासिक आंकड़ा होता है जो मापन पर टिका है, अनुमान पर नहीं। यदि आंकड़ा स्वीकार्य है, तो $20 का टॉप-अप अगला कदम है। यदि नहीं, तो आपने कुछ सेंटों में यह सीखा है।

ट्रायल के बाद: भुगतान कैसा दिखता है

जब ट्रायल क्रेडिट खत्म हो जाता है या उसकी अवधि समाप्त हो जाती है, तो आप प्रीपेड क्रेडिट जोड़ते हैं। $20 से $500 तक कोई भी पूर्ण राशि काम करती है। बड़े टॉप-अप एक बोनस लाते हैं: $50 से +5%, $100 से +10%, $200 से +15%। $100 का टॉप-अप $110 क्रेडिट बन जाता है, और $200 $230 बन जाता है।

आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। कोई सब्सक्रिप्शन और कोई मासिक न्यूनतम नहीं है। क्रेडिट कभी समाप्त नहीं होता, इसलिए एक $20 का टॉप-अप जो आप धीरे-धीरे उपयोग करते हैं, व्यर्थ नहीं जाता। प्रत्येक प्रतिक्रिया में एक X-Balance-USD हेडर होता है, जो आपके अपने कोड को डैशबोर्ड के बिना बैलेंस देखने की अनुमति देता है।

असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। यदि एक अनुरोध त्रुटि देता है, तो आप उसके लिए भुगतान नहीं करते। प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है। पूर्ण तालिका के लिए मूल्य निर्धारण देखें।

क्रेडिट को टिकाऊ बनाने के सस्ते तरीके

आपको ट्रिक्स की आवश्यकता नहीं है, केवल कुछ आदतों की।

  1. इतिहास को कम करें। पुराने टर्न के एक छोटे सारांश के साथ अंतिम N टर्न रखें, सब कुछ फिर से भेजने के बजाय।
  2. max_tokens की एक सीमा उन कार्यों पर सेट करें जहाँ छोटे जवाब काफी हैं। यह यहाँ वैकल्पिक है, लेकिन यह आउटपुट साइड को कैप करता है, जो प्रति टोकन अधिक महंगा है।
  3. JSON मोड (response_format के साथ json_object) का उपयोग एक्सट्रैक्शन टास्क के लिए करें ताकि आपको लंबी-चौड़ी भूमिका के लिए भुगतान न करना पड़े।
  4. पहले छोटे इनपुट के साथ टेस्ट करें। दस उदाहरणों पर प्रॉम्प्ट को साबित करें, फिर दस हजार चलाएं।
  5. बैकऑफ़ के साथ 429 को संभालें। एक ट्रायल कुंजी (2 समानांतर, प्रति मिनट 60) पर एक तंग लूप में फिर से कोशिश करना आपका अपना समय बर्बाद करता है। जब Retry-After हेडर मौजूद हो, तो उसका इंतज़ार करें।

यदि आप कुछ भी खर्च करने से पहले विकल्पों की तुलना कर रहे हैं, तो Hugging Face Inference API बनाम यह एंडपॉइंट पेज एक संबंधित निर्णय को कवर करता है।

ट्रायल खर्च करने के लिए एक पहला अनुरोध

यहाँ एक न्यूनतम अनुरोध है। कुंजी को अपने डैशबोर्ड से प्राप्त कुंजी से बदलें।

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

प्रतिक्रिया में प्रॉम्प्ट और पूर्णता टोकन गणना वाले उपयोग ब्लॉक शामिल है। उन मूल्यों को ऊपर दिए गए मूल्य से गुणा करें और आपको कॉल का सटीक खर्च मिल जाएगा। इसे कुछ बार दोहराने पर आपको अपने कार्यभार का अंदाज़ा होने लगेगा, जो किसी भी अनुमान से कहीं अधिक मूल्यवान है। क्विकस्टार्ट दस्तावेज़ स्ट्रीमिंग, टूल्स और त्रुटि कोड कवर करते हैं।

प्रश्न और उत्तर

क्या कोई मुफ्त अनलिमिटेड LLM API है?

यहाँ नहीं, और ऐसी कोई जगह भी नहीं जो लंबे समय तक अपने GPU खर्च खुद उठा सके। आपको 7 दिनों के लिए वैध $0.50 ट्रायल मिलता है, फिर $20 से प्रीपेड क्रेडिट।

क्या ट्रायल के लिए क्रेडिट कार्ड की आवश्यकता है?

नहीं। Google या ईमेल और पासवर्ड से साइन-अप के बाद, आप API कुंजी पेज पर एक क्लिक से $0.50 दावा करते हैं। यह प्रति व्यक्ति एक है।

$0.50 से कितने अनुरोध होते हैं?

1,500-टोकन प्रॉम्प्ट और 500-टोकन जवाब के लिए, लगभग 1,052 अनुरोध। लंबे प्रॉम्प्ट या एजेंट लूप इसे तेजी से उपयोग करते हैं।

क्या मुझे विफल अनुरोधों के लिए चार्ज किया जाता है?

नहीं। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, और उपयोग न किए गए क्रेडिट कभी समाप्त नहीं होते।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ