Один API. Три способа отправить работу.
Отправьте мгновенный чат-запрос, поставьте один запрос в очередь по пакетной цене или отправьте массовую нагрузку. Сравните каналы и задайте требования до начала.
Выберите способ поступления работы
Прямые chat completions
Стандартное тело запроса OpenAI с немедленным ответом. Укажите "stream": true для получения ответа через server-sent events.
Прямая цена провайдера плюс комиссия сервиса. Сначала максимальная стоимость удерживается в кошельке, затем рассчитывается фактический расход.
Один запрос в очереди как пакет
Тот же запрос выполняется как пакет из одного элемента. Сразу получаете 202 и идентификатор задания, затем читаете результат из GET /v1/chat/completions/{id} или вебхука.
Пакетная цена плюс комиссия, без отдельного запроса оценки.
Массовые пакеты
Много запросов сразу через нативный API или файл JSONL. Существующему клиенту OpenAI Batch достаточно сменить базовый URL.
Пакетная цена плюс комиссия, с оценкой до отправки.
Оценить, направить, получить
Подготовьте нагрузку
Отправляйте элементы через нативный API или OpenAI Batch-совместимый JSONL. Сохраняйте стабильный клиентский идентификатор каждого результата.
Сравните подходящие каналы
Выберите модель и требования к конфиденциальности. До отправки оценка показывает ожидаемую плату и причины отклонения каналов.
Проверьте результаты
Следите за статусом пакета, затем получите результаты или URL артефактов. Обрабатывайте ошибки элементов вместе с успешными результатами.
Получайте сигналы завершения
Опросите эндпоинт пакета или укажите URL вебхука. Проверяйте подпись доставки, прежде чем доверять уведомлению.
Читайте декларации обработки данных
Сравнивайте заявленные уровни конфиденциальности, страны обработки, хранение и настройки обучения. Широкая региональная метка сама по себе не гарантирует резидентность.
Расчёт по фактическому использованию
Оценки резервируют кредиты до отправки. Квитанции заменяют оценки фактическими расходами, а неиспользованные кредиты возвращаются в кошелёк.
Совместимость с OpenAI-Batch
Направьте существующий клиент OpenAI Batch на Batchrouter, сохранив формат JSONL.
Прозрачные цены
Каждая оценка отдельно показывает стоимость провайдера, комиссию Batchrouter и скидку. Для невыбранных каналов указаны причины отказа.
Уровни SLA
API сообщает доступные уровни окружения. Опубликованные окна: Priority (4 ч), Standard (24 ч), Relaxed (48 ч), Flex (72 ч), Economy (7 дней) или Realtime (без гарантии срока) для прямого чата. Batchrouter выбирает каналы, укладывающиеся в срок; более медленные уровни дешевле.
Серии оценок скоро появятся
Планируемый процесс оценки запускает ваш образец на кандидатах и сравнивает результаты с вашим порогом качества. Текущие публичные рейтинги отражают наблюдения за провайдерами и опубликованный каталог.