Cloudflare расширила User Insights для анализа задач и расходов на ИИ
Обновление полезно владельцу ИИ-сервиса, который хочет связать расходы с конкретными задачами пользователей, а не только с названием модели. Например, счёт растёт из-за повторяющихся попыток ответить на один вопрос. Общая сумма не показывает, почему возникли повторы и дали ли они результат.
Коротко
User Insights в Cloudflare AI Gateway получил анализ задач, моделей и диалогов. Он помогает разобраться в расходах на ИИ, но не показывает всё в реальном времени. Выводы об избыточной модели нужно проверять на конкретных задачах.
30 сентября Cloudflare представила обновление User Insights для AI Gateway. Отчёт теперь связывает использование моделей с типами задач и особенностями диалогов. Это помогает понять, что стоит за растущим числом запросов.
Обновление полезно руководителю сервиса, который уже использует Cloudflare AI Gateway и хочет понимать расходы. Если проект не работает через этот шлюз, выпуск отчёта сам по себе не является причиной переносить туда систему.
В анонсе названы категории задач, модели, пользователи и количество шагов в разговоре. Отдельный обзор помогает находить случаи, где выбранная модель может быть мощнее, чем нужно. Эти возможности заявлены бесплатными для пользователей AI Gateway.
Есть важное ограничение: данные обрабатываются после запроса, а отчёт может отставать примерно на день. Это инструмент для анализа тенденций, а не экран оперативного наблюдения за каждым запросом.
После анализа можно сравнить модели вручную или изучить автоматический выбор под задачу. В обоих случаях качество ответа нужно оценивать вместе с расходами.
Если проект работает из России, заранее проверьте доступность своего аккаунта Cloudflare, условия подключения и передачи данных. Анонс отчёта не подтверждает доступность всех связанных сервисов для конкретной компании.
Выберите один тип частых задач и сравните стоимость, правильность ответов и время на исправления до и после смены настройки. По данным с задержкой не принимайте решения об аварийном отключении сервиса.
Как найти источник лишних расходов
Обновление полезно владельцу ИИ-сервиса, который хочет связать расходы с конкретными задачами пользователей, а не только с названием модели.
Например, счёт растёт из-за повторяющихся попыток ответить на один вопрос. Общая сумма не показывает, почему возникли повторы и дали ли они результат.
Наш совет в компании «Гуси-Лебеди»: искать причину расходов в конкретных задачах. Разбирайте дорогие группы задач вместе с примерами ответов. Не меняйте модель только по отчёту об избыточности: сравните результат и учтите задержку появления данных.
В техническом аудите ИИ-сервиса расходы полезно сопоставлять с качеством завершённых задач.
Источник: анонс разработчика. Дата события: 30.09.2026.
