OpenAI продлила срок жизни кэша промптов до 12 часов

OpenAI обновила механизм кэширования промптов: теперь можно сохранять кэш входного контекста минимум на 12 часов вместо стандартных 30 минут. Изменение рассчитано на длительные агентные задачи, где модель многократно использует одни и те же инструкции, описания инструментов и историю работы.Раньше...