Best LLM API Гид
Есть ли бесплатный LLM API? Что вы получите на самом деле
Хостинг LLM API не даёт бесконечного бесплатного доступа к хорошей модели. Есть небольшой лимит, и важно понять, на что его хватит.
Обновлено:

Ключевые моменты
- Здесь нет бесплатного тарифа без ограничений. Новые пользователи получают пробный баланс $0,50 на 7 дней без карты.
- По цене $0,15 за 1 млн входных и $0,50 за 1 млн выходных токенов, $0,50 покрывают примерно 1 000 коротких реплик в чате.
- После пробного периода вы платите по факту использования из предоплаченного баланса, начиная с $20, и кредит не сгорает.
- За неудачные или отклонённые запросы плата не взимается.
Краткий ответ
Если вы ищете бесплатный LLM API, вам, вероятно, нужно одно из двух: способ протестировать идею без оплаты или способ запускать что-то на несколько месяцев бесплатно. Первое реалистично. Второе — нет, и тот, кто обещает это, либо сильно вас ограничивает, либо обучается на ваших промптах, либо планирует взимать плату позже.
Запуск большой языковой модели стоит реальных денег на GPU и электричество, поэтому каждый размещённый API в итоге принимает одну из трёх форм: небольшой бесплатный лимит, бесплатный тариф с ограничением запросов на более слабой модели или платный баланс. Этот сайт использует первую форму. Вы получаете одноразовый пробный период, а после этого платите за каждый токен без подписки.
Другие провайдеры предлагают свои бесплатные тарифы, которые часто меняются. Проверяйте их текущие страницы с ценами, а не доверяйте блог-постам, включая этот, в вопросах, касающихся их.
Что включает пробный период
После регистрации через Google или по электронной почте и паролю на странице API-ключа появится кнопка для получения $0,50 пробного кредита. Один клик, без карты, одна заявка на человека. Кредит действителен в течение 7 дней.
Ключ пробного периода намеренно немного ограничен по сравнению с полным ключом:
- 2 параллельных запроса и 60 запросов в минуту против 8 и 300 у полного ключа.
- Та же модель, тот же идентификатор модели
uncensored, то же контекстное окно на 100 000 токенов. - Потоковая передача, вызов функций и JSON-режим работают.
Это означает, что вы можете протестировать то, что на самом деле планируете построить, а не урезанное демо. Если ваше приложение падает при длинном системном промпте или вызове функции, вы узнаете об этом в пробном периоде, а не после оплаты. Чтобы получить его, перейдите на страницу API-ключа.
Сколько токенов даёт $0,50
Цены: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Входные данные — это то, что вы отправляете (системный промпт, история, ваше сообщение). Выходные данные — это то, что модель возвращает. Математика — простое деление, вот полный расчёт.
| Бюджет | Если всё входные | Если всё выходные |
|---|---|---|
| Пробный период $0,50 | 3 333 333 токенов | 1 000 000 токенов |
| Пополнение $20 | 133 333 333 токенов | 40 000 000 токенов |
Реальный трафик — это смесь, поэтому используйте рабочий пример. Реплика чата с промптом на 1 500 токенов (системное сообщение плюс короткая история) и ответом на 500 токенов стоит:
- Вход: 1 500 / 1 000 000 x $0,15 = $0,000225
- Выход: 500 / 1 000 000 x $0,50 = $0,000250
- Итого: $0,000475 за реплику
Разделите $0,50 на $0,000475, и вы получите около 1 052 реплик. Это много тестов для пробного периода: достаточно, чтобы написать промпт, запустить несколько сотен тестовых диалогов и проверить, как модель ведёт себя в ваших граничных случаях. Этого недостаточно для запуска публичного приложения на неделю.
Где заканчивается бесплатный кредит
Короткие реплики в чате — это дешёвый случай. Три паттерна расходуют кредит быстрее, чем вы ожидаете, и полезно знать о них до начала работы.
Длинные промпты, которые растут с каждой репликой
Клиент чата, который отправляет всю историю, платит за эту историю с каждой репликой. На реплике 40 с историей на 20 000 токенов и ответом на 500 токенов один запрос стоит 20 000 / 1 000 000 x $0,15 = $0,003 за входные данные плюс $0,00025 за выходные, итого $0,00325. Всё ещё немного, но это почти в семь раз дороже реплики на 1 500 токенов выше. Пробный период $0,50 хватит примерно на 153 таких реплики.
Агенты и циклы инструментов
Агент, вызывающий инструменты, делает несколько запросов на одну задачу пользователя, и каждый из них содержит растущий контекст. Если задача занимает 6 вызовов со средним объёмом 8 000 входных токенов и 300 выходных токенов, это 48 000 входных токенов ($0,0072) и 1 800 выходных токенов ($0,0009), итого $0,0081 за задачу. Пробный период покрывает около 61 такой задачи.
Промпты максимального размера
Заполнение полного окна на 100 000 токенов входными данными стоит $0,015 за запрос до любых выходных данных. Хорошо для нескольких запусков анализа документов, дорого, если скрипт гоняет это в цикле тысячу раз ($15).
Вопросы, которые стоит задать о любом бесплатном тарифе
Бесплатные предложения сильно различаются, и заголовок редко говорит о том, что важно. Прежде чем строить что-то на их основе, задайте эти вопросы и найдите ответы в документации самого провайдера.
- Какая это модель? Некоторые бесплатные тарифы используют более слабую модель, чем платная. Тест на слабой модели мало что скажет о продакшене.
- Какие лимиты запросов? Лимит в несколько запросов в минуту подходит для скрипта, но бесполезен для чат-приложения с несколькими пользователями.
- Истекает ли он? Разовый лимит со сроком действия — это не то же самое, что ежемесячный повторяющийся.
- Что происходит с вашими промптами? Если данные используются для обучения, не вставляйте туда ничего приватного. Здесь промпты не используются для обучения.
- Как выглядит платный путь? Переход от бесплатного к платному должен быть изменением состояния аккаунта, а не переписыванием кода.
Самостоятельный хостинг модели с открытыми весами иногда предлагается как бесплатный вариант. Программное обеспечение может быть бесплатным, но GPU, необходимый для запуска мощной модели, стоит денег, будь то аренда почасовая или покупка. Для небольшого проекта арифметика обычно в пользу оплаты за токен, потому что вы платите только за то, что используете, и ничего, пока простаиваете.
Чтение пробного периода как тестового бюджета
Полезно рассматривать пробный период как тестовый бюджет, а не бесплатный продукт. Потратьте его в фиксированном порядке: сначала несколько обычных запросов для подтверждения подключения, затем ваш реальный промпт на десяти различных входах, затем запуск потоковой передачи, затем один намеренно большой промпт, чтобы увидеть, как модель обрабатывает длинный контекст. Сохраните числа из блока usage в заметке.
После этого вы знаете свой средний размер входных данных, средний размер выходных данных и реальную стоимость одной задачи. Умножьте на ожидаемый трафик, и вы получите месячную цифру, основанную на измерениях, а не догадках. Если цифра приемлема, следующим шагом будет пополнение на $20. Если нет, вы узнали это за несколько центов.
После пробного периода: как выглядит оплата
Когда пробный период заканчивается или истекает, вы добавляете предоплаченный кредит. Любая целая сумма от $20 до $500 подходит. Большие пополнения дают бонус: +5% от $50, +10% от $100, +15% от $200. Пополнение на $100 становится кредитом на $110, а $200 — на $230.
Вы можете оплатить криптовалютой (USDT на TRC20, USDC на Base). Нет подписки и минимального ежемесячного платежа. Кредит не сгорает, поэтому пополнение на $20, которое вы используете медленно, не пропадёт. Каждый ответ включает заголовок X-Balance-USD, который позволяет вашему коду отслеживать баланс без панели управления.
Неудачные или отклонённые запросы не оплачиваются. Если запрос завершается ошибкой, вы не платите за него. Промпты не используются для обучения. См. цены для полной таблицы.
Дешёвые способы продлить кредит
Вам не нужны трюки, только несколько привычек.
- Обрезайте историю. Сохраняйте последние N реплик и краткое резюме предыдущих, а не отправляйте всё заново.
- Установите предел
max_tokensдля задач, где достаточно коротких ответов. Это необязательно, но ограничивает более дорогую сторону — вывод — на токен. - Используйте JSON-режим (
response_formatсо значениемjson_object) для задач извлечения данных, чтобы не платить за пространные преамбулы. - Сначала тестируйте на небольших входных данных. Проверьте промпт на десяти примерах, прежде чем запускать десять тысяч.
- Обрабатывайте ошибки 429 с backoff. Повторная попытка в тесном цикле для пробного ключа (2 параллельных запроса, 60 в минуту) тратит ваше собственное время. Ждите заголовок
Retry-After, когда он есть.
Если вы сравниваете варианты перед тем, как что-либо потратить, страница Hugging Face Inference API и этот эндпоинт охватывает смежное решение.
Первый вызов для расходования пробного баланса
Вот минимальный запрос. Замените ключ на тот, что в вашем личном кабинете.
curl https://api.bestllmapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "uncensored", "messages": [{"role": "user", "content": "Say hello in five words."}]}'
В ответе есть блок использования с количеством токенов промпта и завершения. Умножьте их на цены выше, и вы получите точную стоимость вызова. Сделайте это несколько раз, и вы почувствуете свою рабочую нагрузку, что стоит больше любой оценки. Документация по быстрому старту охватывает потоковую передачу, инструменты и коды ошибок.
Дополнительные руководства
Вопросы и ответы
Существует ли бесплатный LLM API без лимитов?
Нет, и ни у кого, кто в долгосрочной перспективе сам покрывает затраты на GPU. Вы получаете пробный баланс $0,50 на 7 дней, затем предоплаченный баланс от $20.
Нужна ли кредитная карта для пробного баланса?
Нет. После регистрации через Google или email и пароль вы получаете $0,50 одним кликом на странице API-ключа. Один на человека.
Сколько запросов стоит $0,50?
Для промпта в 1 500 токенов и ответа в 500 токенов — около 1 052 запросов. Более длинные промпты или циклы агентов расходуют его быстрее.
С меня списывают плату за неудачные запросы?
Нет. Неудачные или отклонённые запросы не тарифицируются, а неиспользованный баланс не сгорает.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.