Тратьте меньше на ИИ без риска для качества
Сравнивайте модели ИИ и цены провайдеров, оценивайте стоимость пакета и платите только за выполненную работу.
- Цена без регистрации
- Без подписок и минимума
- Без привязки к провайдеру
Куда идут деньги
Пример · на 100 USD
- Обычные расходы в реальном времениТа же нагрузка по эталонному тарифу.
- 100,00 $
- Пакетные тарифы провайдераПредположим снижение пакетного тарифа на 50%.
- 50,00 $−50%
- Более низкая цена подходящего провайдераПредположим снижение базовой цены на 12%.
- 44,00 $−12%
- Скидка нативного провайдераСкидка 10% от стоимости провайдера.
- 39,60 $−10%
- Комиссия сервиса Batchrouter5,90% от базы 44 USD до скидки.
- +2,60 $+5.90%
- Пример итога за токены
- 42,20 $
- Пакетные тарифы OpenAI и Anthropic против стандартных, те же модели
- ≈50%
- Дополнительная скидка на нативные каналы OpenAI и Anthropic
- −10%
- Оценка резервирует; квитанция списывает по выполнению
- Фактическое использование
- Возврат комиссии при нарушении срока
- Standard 24 ч
Откуда берётся экономия
Пакетные цены, выбор провайдера и расчёт по фактическому использованию. Изучите возможности до переноса нагрузки.
Обрабатывайте пакетами то, что не требует ответа сейчас
Ночное обогащение, обработка документов, заполнение истории и разметка подходят для пакетов. Используйте опубликованные пакетные цены, если нагрузка может подождать.
Сравнивайте провайдеров при каждом запуске
Цены различаются, и самый дешёвый подходящий канал меняется от запуска к запуску. Подключив одного провайдера, вы зависите от его тарифов. Мы проверяем каждый пакет заново.
Учитывайте лишь экономию с нужным качеством
Дешёвая модель с неверными ответами не дешевле. Сравните кандидатов на своих данных до переноса рабочих задач. Автоматические серии оценок скоро появятся.
Платите за реально выполненную работу
Цена видна до начала, а в конце мы рассчитываем фактическое использование. Неизрасходованный резерв сразу возвращается. Без подписок и минимальных сумм.
OpenAI и Anthropic публикуют пакетные цены на 50% ниже стандартных цен API. Поддержка модели и актуальные тарифы всё равно важны.
Работа, которая может подождать несколько часов и должна стоить меньше
Если никто не ждёт ответа у экрана, можно обменять мгновенную доставку на пакетную цену. Изучите пример и рассчитайте свой объём по опубликованному каталогу.
Пример случая · Электронная коммерция
Ночное обогащение каталога
Маркетплейс ежедневно получает тысячи карточек с короткими названиями, без характеристик и с непоследовательными категориями.
- Задание
- Перепишите названия, извлеките размер, цвет и материал и назначьте категорию каждой новой карточке.
- Почему можно подождать
- Карточки публикуются на следующее утро. Никто не ждёт одну строку, поэтому незачем платить за мгновенный ответ.
- Пример цели качества
- Категория совпадает с решением человека минимум в 95% размеченной выборки.
- Пример объёма
- ≈120 тыс. карточек за ночь
Это примерные цели для проверки на ваших данных, а не измеренные результаты. Автоматические серии оценок скоро появятся.
Пример месячной стоимости
Электронная коммерция- Обычные расходы в реальном времени
- 9 600,00 $
- Расходы при пакетной маршрутизации
- 4 050,00 $
Куда идут каждые 100 USD в примере
Гипотетические суммы, не результаты клиентов и не предложение. Предполагаются пакетная скидка 50%, гипотетическое снижение базовой цены подходящего провайдера на 12%, скидка нативного провайдера 10% и комиссия сервиса 5,90% от стоимости до этой скидки. Плата за каналы и инструменты исключена. Фактическая стоимость зависит от модели, объёма и актуальных тарифов.
Пример расчёта на 100 USD
- Обычные расходы в реальном времени
- 100,00 $
- Пакетная стоимость провайдера
- 50,00 $
- Гипотетическая сниженная цена подходящего провайдера
- 44,00 $
- После скидки нативного провайдера
- 39,60 $
- Комиссия с цены провайдера до скидки
- 2,60 $
- Пример итога за токены
- 42,20 $
Проверка проста
У хорошей пакетной нагрузки есть три общих свойства:
- Много элементов с одинаковыми инструкциями.
- Результат читают позже: таблица, индекс, отчёт, очередь.
- Вы можете описать хороший ответ.
Оставьте это на Realtime
Используйте мгновенные ответы, когда кто-то ждёт:
- Ответ чата, которого ждёт человек
- Автодополнение или подсказки в продукте
- Голосовой агент или поддержка в ходе разговора
- Всё, что должно отвечать за секунды
Уровень Realtime отвечает через POST /v1/chat/completions без гарантии срока, по прямой цене канала.
Низкая цена важна только при достаточном качестве
Публичные тесты используют чужие данные. Оцените кандидатов на своих, задайте нужный бизнесу порог и выбирайте по цене среди прошедших.
- Подготовьте образец своей работы и пример хорошего ответа.
- Все провайдеры-кандидаты выполняют его одновременно: одно задание, одна цена, один расчёт.
- Оценивание выполняется на нашей стороне бесплатно. Вы платите только за инференс.
- Модель должна доказать, что проходит ваш порог, а не просто достигает его в среднем.
Таблица оценок
Ваш порог: 0,92| Модель | Оценка | Цена / 1 тыс. | Вердикт |
|---|---|---|---|
| Класс Sonnet | 0,96 | 2,41 $ | Проходит — цена в 2,8 раза выше |
| Класс Haiku | 0,94 | 0,86 $ | Самый дешёвый прошедший — направляем сюда |
| Класс Mini | 0,91 | 0,71 $ | Ниже вашего порога |
| Открытые веса 70B | 0,78 | 0,34 $ | Ниже вашего порога |
Мы выбираем не самую дешёвую модель таблицы, а самую дешёвую из прошедших ваш порог.
Пример таблицы — ваши модели, оценки и цены будут получены из вашего запуска.
Начните с цены, а не с миграции
Оцените экономию до общения с командой и проверьте качество до переноса рабочего задания.
Рассчитайте
Введите реальный объём в калькулятор и сравните стоимость у провайдеров. Без аккаунта и карты.
Проверьте качество (скоро)
Серии запусков одного образца на многих моделях скоро появятся. Пока сравнивайте цены и скорость провайдеров в рейтингах.
Направьте
Выберите модель и требования маршрутизации. Каждый пакет направляется подходящему провайдеру с доставкой в течение 24 часов уровня Standard. Автоматические оценки скоро появятся.
Подключаете к своим системам? Документация описывает API, форматы файлов, вебхуки и переход с существующей пакетной обработки.
Читать документациюПрямые chat completions
Стандартное тело запроса OpenAI с немедленным ответом. Укажите "stream": true для получения ответа через server-sent events.
POST /v1/chat/completions
Один запрос в очереди как пакет
Тот же запрос выполняется как пакет из одного элемента. Сразу получаете 202 и идентификатор задания, затем читаете результат из GET /v1/chat/completions/{id} или вебхука.
POST /v1/chat/completions with "batch": true
Массовые пакеты
Много запросов сразу через нативный API или файл JSONL. Существующему клиенту OpenAI Batch достаточно сменить базовый URL.
POST /v1/batches, or /v1/openai/v1 for OpenAI Batch clients
Опубликованные уровни: Realtime (без гарантии срока), Priority (4 ч), Standard (24 ч), Relaxed (48 ч), Flex (72 ч) и Economy (7 дней). API сообщает, какие доступны в этом окружении.
Текущие комиссии и доступность SLAЧто доступно сегодня
Просматривайте опубликованные модели и сравнивайте провайдеров. Откройте модель, чтобы увидеть цены, возможности и статус каналов.
Узнайте, сколько вы реально сэкономите
Рассчитайте свой реальный объём меньше чем за минуту. Без аккаунта, карты и звонков.