PL ▾
Pobierz klucz API

Best LLM API Przewodnik

Darmowe API LLM? Co Tak Naprawdę Otrzymujesz

Żadne hostowane API LLM nie daje Ci na długo nieograniczonego darmowego korzystania z dobrego modelu. To, co możesz otrzymać, to mały darmowy przydział, a użytecznym pytaniem jest, jak daleko ten przydział wystarczy.

Aktualizacja:

Izometryczne monety zasilające strumień bloków tokenów do serwera, ilustrujące darmowy kredyt próbny do API LLM

Kluczowe punkty

  • Nie ma tu darmowego nieograniczonego poziomu. Nowi użytkownicy otrzymują kredyt próbny za $0,50, ważny przez 7 dni, bez karty.
  • Po $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, $0,50 pokrywa około 1000 krótkich tur czatu.
  • Po zakończeniu okresu próbnego płacisz za zużycie z przedpłaconego kredytu, zaczynając od $20, a kredyt nigdy nie wygasa.
  • Nieudane lub odrzucone zapytania nie są rozliczane.

Krótka odpowiedź

Jeśli szukasz darmowego API LLM, prawdopodobnie chcesz jednego z dwóch: sposobu na przetestowanie pomysłu bez płacenia lub sposobu na uruchomienie czegoś przez miesiące bez kosztów. Pierwsze jest realistyczne. Drugie nie, a każdy, kto to obiecuje, albo mocno Cię ogranicza, albo trenuje na Twoich promptach, albo planuje naliczyć Ci opłaty później.

Uruchamianie dużego modelu językowego kosztuje prawdziwe pieniądze w GPU i prądzie, więc każde hostowane API kończy się w jednym z trzech kształtów: mały darmowy przydział, darmowy poziom z limitem zapytań na słabszym modelu lub płatny kredyt. Ta strona używa pierwszego kształtu. Otrzymujesz jednorazowy kredyt próbny, a po nim płacisz za token bez subskrypcji.

Inni dostawcy oferują własne darmowe warstwy, które często się zmieniają. Sprawdź ich aktualne strony z cenami zamiast ufać wpisom na blogach, także temu, w kwestii informacji o nich.

Co obejmuje próba

Po rejestracji przez Google lub e-mail i hasło, na stronie klucza API pojawia się przycisk do odebrania $0,50 kredytu próbnego. Jedno kliknięcie, bez karty, jedno odebranie na osobę. Kredyt jest ważny przez 7 dni.

Klucz próbny jest celowo nieco bardziej ograniczony niż pełny klucz:

  • 2 równoległe zapytania i 60 zapytań na minutę, w porównaniu z 8 i 300 przy pełnym kluczu.
  • Ten sam model, ten sam identyfikator modelu uncensored, to samo okno kontekstu 100 000 tokenów.
  • Strumieniowanie, wywoływanie narzędzi i tryb JSON działają.

Oznacza to, że możesz przetestować to, co naprawdę planujesz zbudować, a nie okrojoną demonstrację. Jeśli Twoja aplikacja zawodzi przy długim systemowym prompcie lub wywołaniu narzędzia, dowiesz się o tym w trakcie próby, a nie po zapłaceniu. Aby to odebrać, przejdź do strony klucz API.

Co kupisz za $0,50 w tokenach

Cennik to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Wejście to to, co wysyłasz (prompt systemowy, historia, Twoja wiadomość). Wyjście to to, co model zwraca. Matematyka to proste dzielenie, więc oto pełne wyliczenie.

BudżetJeśli całe wejścieJeśli całe wyjście
Kredyt próbny $0,503 333 333 tokenów1 000 000 tokenów
Doładowanie $20133 333 333 tokenów40 000 000 tokenów

Ruch rzeczywisty to mieszanka, więc użyj przykładu. Tura czatu z promptem 1500 tokenów (komunikat systemowy plus krótka historia) i odpowiedzią 500 tokenów kosztuje:

  • Wejście: 1500 / 1000000 x $0.15 = $0.000225
  • Wyjście: 500 / 1 000 000 x $0,50 = $0,000250
  • Razem: $0,000475 za turę

Podziel $0,50 przez $0,000475 i otrzymasz około 1052 tur. To dużo testów na próbę: wystarczająco, aby napisać prompt, uruchomić kilka setek rozmów testowych i sprawdzić, jak model zachowuje się w Twoich przypadkach brzegowych. To nie wystarczy do uruchomienia publicznej aplikacji na tydzień.

Gdzie darmowy kredyt faktycznie się kończy

Krótkie tury czatu to najtańszy przypadek. Trzy wzorce zużywają kredyt szybciej, niż się spodziewasz, i warto je znać przed rozpoczęciem.

Długie prompty, które rosną w każdej turze

Klient czatu, który wysyła całą historię, płaci za tę historię w każdej turze. Przy turze 40 z historią 20 000 tokenów i odpowiedzią 500 tokenów jedno zapytanie kosztuje 20 000 / 1 000 000 x $0,15 = $0,003 za wejście plus $0,00025 za wyjście, czyli $0,00325. Nadal mało, ale to prawie siedem razy koszt tury z promptem 1500 tokenów wyżej. Próba za $0,50 starczy na około 153 takie tury.

Agenci i pętle narzędzi

Agent, który wywołuje narzędzia, wykonuje kilka zapytań na zadanie użytkownika, a każde z nich zawiera rosnący kontekst. Jeśli zadanie zajmuje 6 wywołań ze średnio 8000 tokenów wejściowych i 300 tokenów wyjściowych, to 48 000 tokenów wejściowych ($0,0072) i 1800 tokenów wyjściowych ($0,0009), czyli $0,0081 na zadanie. Próba pokrywa około 61 takich zadań.

Prompty maksymalnego rozmiaru

Wypełnienie pełnego okna 100 000 tokenów danymi wejściowymi kosztuje $0,015 za zapytanie przed jakimkolwiek wyjściem. Dobrze na kilka uruchomień analizy dokumentów, drogo, jeśli skrypt wykona to w pętli tysiąc razy ($15).

Pytania, które warto zadać o każdy darmowy plan o każdy darmowy plan

Darmowe oferty różnią się znacznie, a nagłówek rzadko mówi o tym, co istotne. Zanim zbudujesz coś na jednej z nich, zadaj te pytania i znajdź odpowiedzi we własnej dokumentacji dostawcy.

  • Jaki to model? Niektóre darmowe poziomy używają mniejszego modelu niż ten płatny. Test na słabym modelu niewiele mówi o produkcji.
  • Jakie są limity zapytań? Limit kilku zapytań na minutę jest wystarczający dla skryptu i bezużyteczny dla aplikacji czatu z kilkoma użytkownikami.
  • Czy wygasa? Jednorazowy przydział z terminem to coś innego niż cykliczny miesięczny.
  • Co dzieje się z Twoimi promptami? Jeśli dane są używane do trenowania, nie wklejaj tam niczego prywatnego. Tutaj prompty nie są używane do trenowania.
  • Jak wygląda ścieżka płatna? Przejście z darmowej na płatną powinno być zmianą stanu konta, a nie przepisaniem.

Samodzielne hostowanie modelu o otwartych wagach jest czasem sugerowane jako darmowa droga. Oprogramowanie może być darmowe, ale GPU potrzebne do uruchomienia zdolnego modelu kosztuje, czy wynajmujesz je na godzinę, czy kupujesz. Dla małego projektu rachunek zwykle przemawia za płaceniem za token, ponieważ płacisz tylko za to, czego używasz, a nic w stanie bezczynności.

Traktowanie kredytu próbnego jako budżetu testowego

Warto traktować kredyt próbny jako budżet testowy, a nie jako darmowy produkt. Wydaj go w ustalonej kolejności: najpierw kilka zwykłych zapytań, aby potwierdzić połączenie, potem swój prawdziwy prompt na dziesięciu zróżnicowanych danych wejściowych, następnie strumieniowanie, a na końcu jedno celowo duże zapytanie, aby sprawdzić, jak model radzi sobie z długim kontekstem. Zapisz liczby z bloku usage w notatce.

Po tym znasz swój średni rozmiar wejścia, średni rozmiar wyjścia i swój rzeczywisty koszt zadania. Pomnóż przez ruch, którego się spodziewasz, i otrzymasz miesięczną kwotę opartą na pomiarach, a nie domysłach. Jeśli kwota jest akceptowalna, kolejnym krokiem jest doładowanie za $20. Jeśli nie, nauczyłeś się tego za kilka centów.

Po zakończeniu okresu próbnego: jak wygląda płatność

Kiedy kredyt próbny się kończy lub wygasa, dodajesz przedpłacony kredyt. Działa dowolna kwota całkowita od $20 do $500. Większe doładowania niosą bonus: +5% od $50, +10% od $100, +15% od $200. Doładowanie $100 staje się $110 kredytu, a $200 staje się $230.

Możesz zapłacić kryptowalutami (USDT w sieci TRC20, USDC na Base). Nie ma subskrypcji ani miesięcznego minimum. Kredyt nie wygasa, więc doładowanie za $20, które wykorzystujesz powoli, nie marnuje się. Każda odpowiedź zawiera nagłówek X-Balance-USD, który pozwala Twojemu kodowi śledzić stan konta bez konieczności korzystania z panelu.

Zapytania nieudane lub odrzucone nie są rozliczane. Jeśli zapytanie zwróci błąd, nie płacisz za nie. Prompty nie są używane do trenowania modeli. Pełną tabelę cen znajdziesz w cenniku.

Tanie sposoby na wydłużenie kredytu

Nie potrzebujesz sztuczek, tylko kilku nawyków.

  1. Przycinaj historię. Zachowaj ostatnie N tur plus krótkie podsumowanie starszych zamiast wysyłania wszystkiego od nowa.
  2. Ustal max_tokens limit dla zadań, w których wystarczają krótkie odpowiedzi. Jest to opcjonalne, ale ogranicza kosztowną stronę wyjścia, czyli generowanie tokenów.
  3. Użyj trybu JSON (response_format z json_object) do zadań ekstrakcji, aby nie płacić za rozmowne wstępy.
  4. Przetestuj najpierw na małych danych wejściowych. Sprawdź prompt na dziesięciu przykładach, zanim uruchomisz dziesięć tysięcy.
  5. Obsługuj błędy 429 z backoff. Ponawianie w ścisłej pętli przy kluczu próbnym (2 równoległe, 60 na minutę) marnuje Twój czas. Poczekaj na nagłówek Retry-After, gdy jest.

Jeśli porównujesz opcje przed wydaniem czegokolwiek, strona o Hugging Face Inference API kontra ten endpoint omawia pokrewną decyzję.

Pierwsze zapytanie, aby wykorzystać kredyt próbny

Oto minimalne zapytanie. Zastąp klucz tym z Twojego panelu.

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

Odpowiedź zawiera blok użycia z liczbą tokenów prompt i completion. Pomnóż je przez ceny powyżej i masz dokładny koszt zapytania. Zrób to kilka razy, a wyrobisz sobie wyczucie własnego obciążenia, które jest warte więcej niż jakiekolwiek oszacowanie. Dokumentacja quickstart obejmuje strumieniowanie, narzędzia i kody błędów.

Pytania i odpowiedzi

Czy istnieje darmowe nieograniczone API LLM?

Nie tutaj i nigdzie, gdzie ktoś długo sam pokrywa koszty GPU. Otrzymujesz kredyt próbny za $0,50 ważny przez 7 dni, a następnie doładowany kredyt od $20.

Czy kredyt próbny wymaga karty kredytowej?

Nie. Po rejestracji za pomocą Google lub e-maila i hasła, odbierasz $0,50 jednym kliknięciem na stronie klucza API. Przysługuje jedno na osobę.

Ile zapytań daje $0,50?

Dla promptu 1 500 tokenów i odpowiedzi 500 tokenów około 1 052 zapytań. Dłuższe prompty lub pętle agenta zużywają go szybciej.

Czy płacę za nieudane zapytania?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane, a niewykorzystany kredyt nigdy nie wygasa.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API