OpenAI описывает улучшенное кэширование промптов для GPT-6
OpenAI заявляет, что GPT-6 улучшит кэширование промптов за счёт более высоких показателей попаданий, диагностики, точек разрыва и инструментов управления, нацеленных на снижение задержки и затрат.
