ID ▾
Dapatkan kunci API

Best LLM API Panduan

Apakah Ada LLM API Gratis? Apa yang Sebenarnya Anda Dapatkan

Tidak ada LLM API yang memberikan Anda penggunaan gratis tanpa batas dari model bagus untuk waktu yang lama. Yang bisa Anda dapatkan adalah alokasi gratis kecil, dan pertanyaan yang berguna adalah seberapa jauh alokasi itu cukup.

Diperbarui:

Koin isometrik memberi makan aliran blok token ke server, mengilustrasikan kredit uji coba gratis untuk LLM API

Poin utama

  • Tidak ada tier gratis tanpa batas di sini. Pengguna baru mendapatkan uji coba $0.50, berlaku 7 hari, tanpa kartu.
  • Pada $0.15 per 1M input dan $0.50 per 1M output, $0.50 mencakup sekitar 1.000 putaran obrolan pendek.
  • Setelah uji coba, Anda membayar sesuai penggunaan dari saldo prabayar, mulai dari $20, dan saldo tidak pernah kedaluwarsa.
  • Permintaan yang gagal atau ditolak tidak dikenakan biaya.

Jawaban singkat

Jika Anda mencari api llm gratis, Anda mungkin menginginkan salah satu dari dua hal: cara menguji ide tanpa membayar, atau cara menjalankan sesuatu selama berbulan-bulan tanpa biaya. Yang pertama realistis. Yang kedua tidak, dan siapa pun yang menjanjikannya entah membatasi Anda secara ketat, melatih model dengan prompt Anda, atau berencana membebankan biaya kepada Anda nanti.

Menjalankan model bahasa besar membutuhkan biaya nyata dalam GPU dan listrik, jadi setiap API yang dihosting berakhir dalam salah satu dari tiga bentuk: alokasi gratis kecil, tier gratis yang dibatasi laju pada model yang lebih lemah, atau kredit berbayar. Situs ini menggunakan bentuk pertama. Anda mendapatkan uji coba satu kali, dan setelah itu Anda membayar per token tanpa langganan.

Penyedia lain menjalankan tier gratis mereka sendiri, dan itu sering berubah. Periksa halaman harga mereka saat ini daripada mempercayai posting blog, termasuk yang ini, untuk apa pun tentang mereka.

Apa yang termasuk dalam uji coba

Setelah Anda mendaftar dengan Google, atau dengan email dan kata sandi, halaman kunci API menampilkan tombol untuk mengklaim $0.50 kredit uji coba. Satu klik, tanpa kartu, satu klaim per orang. Kredit berlaku selama 7 hari.

Kunci uji coba sengaja sedikit lebih ketat daripada kunci penuh:

  • 2 permintaan paralel dan 60 permintaan per menit, dibandingkan dengan 8 dan 300 pada kunci penuh.
  • Model yang sama, ID model uncensored yang sama, jendela konteks 100.000 token yang sama.
  • Streaming, pemanggilan alat, dan mode JSON semuanya berfungsi.

Itu berarti Anda dapat menguji hal yang sebenarnya ingin Anda bangun, bukan demo yang dipangkas. Jika aplikasi Anda rusak pada prompt sistem panjang atau panggilan alat, Anda mengetahuinya dalam uji coba, bukan setelah membayar. Untuk mengklaimnya, pergi ke halaman kunci API.

Apa yang dibeli dengan $0.50 dalam token

Harga adalah $0.15 per 1M token input dan $0.50 per 1M token output. Input adalah apa yang Anda kirim (prompt sistem, riwayat, pesan Anda). Output adalah apa yang ditulis model kembali. Matematikanya adalah pembagian sederhana, jadi berikut ini secara lengkap.

AnggaranJika semua inputJika semua output
Uji coba $0.503.333.333 token1.000.000 token
Isi saldo $20133.333.333 token40.000.000 token

Traffic nyata adalah campuran, jadi gunakan contoh yang telah dihitung. Satu giliran chat dengan prompt 1.500 token (pesan sistem ditambah riwayat singkat) dan balasan 500 token biayanya:

  • Input: 1.500 / 1.000.000 x $0,15 = $0,000225
  • Output: 500 / 1.000.000 x $0.50 = $0.000250
  • Total: $0.000475 per putaran

Bagi $0.50 dengan $0.000475 dan Anda mendapatkan sekitar 1.052 putaran. Itu banyak pengujian untuk uji coba: cukup untuk menulis prompt, menjalankan beberapa ratus percakapan pengujian, dan memeriksa bagaimana model berperilaku pada kasus tepi Anda. Itu tidak cukup untuk menjalankan aplikasi publik selama seminggu.

Di mana kredit gratis benar-benar habis

Putaran obrolan pendek adalah kasus murah. Tiga pola membakar kredit lebih cepat dari yang Anda harapkan, dan membantu untuk mengetahuinya sebelum Anda memulai.

Prompt panjang yang tumbuh setiap putaran

Klien obrolan yang mengirim ulang seluruh riwayat membayar untuk riwayat itu pada setiap putaran. Pada putaran 40 dengan riwayat 20.000 token dan balasan 500 token, satu permintaan biaya 20.000 / 1.000.000 x $0.15 = $0.003 untuk input ditambah $0.00025 untuk output, jadi $0.00325. Masih kecil, tetapi itu hampir tujuh kali biaya putaran 1.500 token di atas. Uji coba $0.50 berlangsung sekitar 153 putaran seperti itu.

Agen dan loop alat

Agen yang memanggil alat membuat beberapa permintaan per tugas pengguna, dan masing-masing membawa konteks yang tumbuh. Jika tugas membutuhkan 6 panggilan rata-rata 8.000 token input dan 300 token output, itu adalah 48.000 token input ($0.0072) dan 1.800 token output ($0.0009), jadi $0.0081 per tugas. Uji coba mencakup sekitar 61 tugas seperti itu.

Prompt ukuran maksimum

Mengisi jendela 100.000 token penuh dengan input berharga $0,015 per permintaan sebelum output apa pun. Cukup untuk beberapa kali menjalankan analisis dokumen, mahal jika skrip mengulanginya seribu kali ($15).

Pertanyaan untuk ditanyakan tentang tier gratis apa pun

Penawaran gratis sangat berbeda, dan judul utama jarang memberi tahu Anda apa yang penting. Sebelum Anda membangun di atasnya, ajukan pertanyaan ini, dan temukan jawabannya dalam dokumentasi penyedia sendiri.

  • Model apa itu? Beberapa tier gratis menggunakan model yang lebih kecil daripada yang berbayar. Pengujian pada model yang lemah memberi tahu Anda sedikit tentang produksi.
  • Apa batas lajunya? Batas beberapa permintaan per menit bagus untuk skrip dan tidak berguna untuk aplikasi obrolan dengan beberapa pengguna.
  • Apakah itu kedaluwarsa? Alokasi satu kali dengan batas waktu adalah hal yang berbeda dari yang berulang setiap bulan.
  • Apa yang terjadi pada prompt Anda? Jika data digunakan untuk pelatihan, jangan tempelkan apa pun yang pribadi ke dalamnya. Di sini, prompt tidak digunakan untuk pelatihan.
  • Seperti apa jalur berbayarnya? Berpindah dari gratis ke berbayar harus menjadi perubahan status akun, bukan penulisan ulang.

Meng-host sendiri model bobot terbuka kadang disarankan sebagai jalur gratis. Perangkat lunaknya mungkin gratis, tetapi GPU yang Anda butuhkan untuk menjalankan model yang mumpuni tidak gratis, baik Anda menyewanya per jam atau membelinya. Untuk proyek kecil, perhitungannya biasanya lebih menguntungkan membayar per token, karena Anda hanya membayar untuk apa yang Anda gunakan dan tidak membayar apa pun saat tidak aktif.

Membaca uji coba sebagai anggaran pengujian

Disarankan memperlakukan uji coba sebagai anggaran pengujian daripada produk gratis. Habiskan secara berurutan: pertama beberapa permintaan biasa untuk mengonfirmasi koneksi, lalu prompt nyata Anda pada sepuluh input bervariasi, lalu jalankan streaming, lalu satu prompt yang sengaja dibuat besar untuk melihat bagaimana model menangani konteks panjang. Simpan angka dari blok usage dalam catatan.

Setelah itu Anda mengetahui ukuran input rata-rata, ukuran output rata-rata, dan biaya riil per tugas. Kalikan dengan lalu lintas yang Anda harapkan dan Anda mendapatkan angka bulanan yang didasarkan pada pengukuran, bukan tebakan. Jika angkanya dapat diterima, langkah selanjutnya adalah melakukan isi saldo sebesar $20. Jika tidak, Anda mengetahuinya hanya dengan beberapa sen.

Setelah uji coba: bagaimana tampilan pembayaran

Saat kredit uji coba gratis habis atau kedaluwarsa, Anda menambahkan saldo prabayar. Jumlah bulat dari $20 hingga $500 dapat digunakan. Top-up yang lebih besar membawa bonus: +5% dari $50, +10% dari $100, +15% dari $200. Isi saldo $100 menjadi $110 saldo, dan $200 menjadi $230.

Anda dapat membayar dengan kripto (USDT pada TRC20, USDC pada Base). Tidak ada langganan dan tidak ada minimum bulanan. Saldo tidak pernah kedaluwarsa, jadi isi saldo $20 yang Anda gunakan perlahan tidak sia-sia. Setiap respons menyertakan header X-Balance-USD, yang memungkinkan kode Anda sendiri mengawasi saldo tanpa dasbor.

Permintaan yang gagal atau ditolak tidak dikenakan biaya. Jika permintaan error, Anda tidak membayarnya. Prompt tidak digunakan untuk pelatihan. Lihat harga untuk tabel lengkap.

Cara murah membuat kredit bertahan

Anda tidak membutuhkan trik, hanya beberapa kebiasaan.

  1. Potong riwayat. Simpan N putaran terakhir beserta ringkasan singkat dari putaran sebelumnya, bukan mengirim ulang semua data.
  2. Atur batas atas max_tokens pada tugas di mana jawaban singkat sudah cukup. Ini opsional di sini, tetapi membatasi sisi output, yang lebih mahal per token.
  3. Gunakan mode JSON (response_format dengan json_object) untuk tugas ekstraksi agar Anda tidak membayar untuk pembuka yang bertele-tele.
  4. Uji dengan input kecil terlebih dahulu. Buktikan prompt pada sepuluh contoh sebelum Anda menjalankan sepuluh ribu kali.
  5. Tangani 429 dengan backoff. Mencoba lagi dalam loop ketat pada kunci uji (2 konkuren, 60 per menit) membuang waktu Anda sendiri. Tunggu header Retry-After jika ada.

Jika Anda membandingkan opsi sebelum mengeluarkan biaya, halaman tentang Hugging Face Inference API versus endpoint ini mencakup keputusan terkait.

Panggilan pertama untuk menghabiskan kredit uji coba pada

Berikut adalah permintaan minimal. Ganti kunci dengan kunci dari dasbor Anda.

curl https://api.bestllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'

Respons mencakup blok penggunaan dengan jumlah token prompt dan completion. Kalikan angka tersebut dengan harga di atas dan Anda akan mendapatkan biaya tepat untuk panggilan tersebut. Lakukan beberapa kali dan Anda akan memiliki gambaran tentang beban kerja Anda sendiri, yang lebih berharga daripada perkiraan apa pun. Dokumen quickstart mencakup streaming, alat, dan kode kesalahan.

Tanya jawab

Apakah ada API LLM gratis tanpa batas?

Tidak di sini, dan tidak di mana pun yang menutupi biaya GPU sendiri untuk jangka panjang. Anda mendapatkan kredit uji coba senilai $0,50 yang berlaku selama 7 hari, lalu saldo prabayar mulai dari $20.

Apakah kredit uji coba memerlukan kartu kredit?

Tidak. Setelah pendaftaran dengan Google atau email dan kata sandi, Anda mengklaim $0,50 dengan satu klik di halaman kunci API. Ini satu per orang.

Berapa banyak permintaan yang bisa dilakukan dengan $0,50?

Untuk prompt 1.500 token dan balasan 500 token, sekitar 1.052 permintaan. Prompt yang lebih panjang atau loop agen menggunakannya lebih cepat.

Apakah saya dibebankan biaya untuk permintaan yang gagal?

Tidak. Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan saldo prabayar yang tidak terpakai tidak pernah kedaluwarsa.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API