OpenAI добавила 12-часовой кэш для запросов к ИИ
Общий контекст можно повторно использовать после перерыва в несколько часов. Разбираем, когда это полезно помощнику на сайте и почему длинный кэш не гарантирует меньший счёт.

Коротко
20 октября OpenAI добавила в Responses API выбор кэша минимум на 12 часов. Это позволяет повторно использовать неизменную часть контекста после длинных пауз между обращениями. Запись такого кэша дороже стандартной, поэтому итоговую стоимость нужно считать по реальным повторным обращениям.
OpenAI 20 октября объявила о 12-часовом кэшировании промптов в Responses API, интерфейсе подключения моделей к приложениям. Кэш сохраняет уже обработанную общую часть запроса: например, инструкции помощника и описание доступных инструментов. Повторное использование этого контекста отличается от сохранения готового ответа посетителю.
В документации для GPT-5.6 и более новых моделей указаны минимальные сроки 30 минут по умолчанию и 12 часов по выбору. Запись стоит соответственно 1,25 и 2,5 обычной цены входных токенов, фрагментов текста. Это полные ставки записи, а не дополнительная надбавка поверх них. Чтение кэша оплачивается отдельно по ставке модели.
Длинный перерыв меняет расчёт, но не делает кэш бесплатным
Наш вывод в компании «Гуси-Лебеди»: новость полезна прежде всего командам, у которых один большой контекст используется с паузами. Например, помощник по подбору оборудования получает обращения утром и вечером. Его общие инструкции могут повторяться, а конкретный вопрос и наличие товара должны оставаться актуальными.
Если обращения идут непрерывно, дорогая запись на 12 часов может оказаться лишней. Если справочник меняется при каждом запросе, прежний контекст может вообще не переиспользоваться. Поэтому выбирать режим только по максимальному сроку хранения мы не рекомендуем.
При разработке веб-сервиса стоит отделить стабильные инструкции от переменных данных. Затем сравнить два режима на разрешённых запросах: сумму списаний за запись и чтение, долю повторно использованного контекста и полное время ответа. Включить более длинный кэш разумно там, где измерения подтверждают пользу.
Срок 12 часов является минимальным временем жизни кэша, а не обещанием удалить данные ровно через 12 часов. Настройка не заменяет правила хранения данных и проверки доступа к API. Анонс также не даёт оснований обещать одинаковую экономию каждому сайту.
Источник: официальное сообщение и документация разработчика.



