Cloudflare представила Auto Router для выбора ИИ-модели под задачу
Автоматический выбор стоит оценить сервисам, в которых простые и сложные обращения сейчас отправляются одной модели. Например, короткая классификация и разбор документа требуют разного объёма работы. Более дешёвый запрос не выгоден, если ответ приходится многократно исправлять.
Коротко
Cloudflare представила Auto Router в публичной бета-версии AI Gateway. Он выбирает модель с учётом задачи и цены. Мы рекомендуем проверять стоимость завершённой работы и качество результата, а не только тариф модели.
30 сентября Cloudflare объявила о публичной бета-версии Auto Router в AI Gateway. Идея проста: приложению не обязательно отправлять все запросы одной модели. Система может выбирать подходящий вариант в зависимости от задачи.
Auto Router интересен командам, у которых ИИ уже выполняет разные задачи и расходы требуют контроля. Если помощник ещё не запущен, сначала нужно проверить сам сценарий, а затем выбирать способ распределения запросов.
По описанию Cloudflare, маршрутизатор учитывает сложность запроса, ожидаемое качество и стоимость. Он также проверяет доступность моделей, поддерживаемый формат, настройки доступа и ограничения расходов. Приложение использует обозначение cloudflare/auto.
Одно обращение нужно направить в нужный отдел, другое требует разобраться в длинной инструкции. Это разные задачи. Автоматический выбор модели может быть полезен, если он сохраняет нужное качество ответа при разумных расходах.
В веб-сервисе сохраните возможность вернуть прежнюю настройку. Для понимания расходов пригодится и обновлённый отчёт User Insights: он помогает изучать задачи, но не заменяет проверку ответов.
Для российского проекта публичная бета-версия не является подтверждением возможности подключения и оплаты. До пилота проверьте условия своего аккаунта и доступность поставщиков моделей, которые будут обрабатывать запросы. В этой новости такая доступность для конкретного российского заказчика не подтверждена.
Начните со сценария, где результат легко проверить, например распределения обращений по отделам. Не подключайте автоматический выбор сразу ко всем действиям помощника.
Цена модели и цена решённой задачи
Автоматический выбор стоит оценить сервисам, в которых простые и сложные обращения сейчас отправляются одной модели.
Например, короткая классификация и разбор документа требуют разного объёма работы. Более дешёвый запрос не выгоден, если ответ приходится многократно исправлять.
Мы в компании «Гуси-Лебеди» считаем главным показателем стоимость полезного результата. Сравните качество и расходы по типам задач, включая повторные попытки. Опишите сценарии, где выбор модели должен оставаться предсказуемым для команды.
Для разработки веб-сервиса с несколькими моделями заранее определяют правила выбора и допустимые расходы на задачу.
Источник: анонс разработчика. Дата события: 30.09.2026.
