OpenAI обновила механизм кэширования промптов: теперь можно сохранять кэш входного контекста минимум на 12 часов вместо стандартных 30 минут. Изменение рассчитано на длительные агентные задачи, где модель многократно использует одни и те же инструкции, описания инструментов и историю работы.Раньше после длительного перерыва кэш мог перестать использоваться, и модели приходилось заново обрабатывать общий контекст. Увеличенный срок хранения позволяет повторно использовать его даже после нескольких часов бездействия — если последующие запросы содержат подходящий неизменённый префикс. Читать далее