OpenAI добавили WebSocket mode в Responses API Можно создать постоянное соединение на wss://api.openai.com/v1/responses. Отправляешь response.create, получаешь ответ, потом шлёшь только новые элементы (tool output, следующее сообщение) + previous_response_id. Сервер держит стейт в памяти, не гоняет данные на диск каждый раз. Считали, что на цепочках с 20+ tool-вызовами – до ~40% быстрее end-to-end. Для простых запрос-ответ смысла нет. Можно отправить response.create с generate: false – сервер подготовит стейт (tools, instructions) без генерации. Следующий реальный запрос стартует быстрее. Можно сжимать контекст, 2 способами: сервер делает сам, когда считает, что пора, или сам вызываешь /responses/compact По сути, OpenAI повторяют паттерн из Realtime API, но для текстовых агентских сценариев, то есть долгая работа и множество инструментов становятся основным юзкейсом. Документация: https://developers.openai.com/api/docs/guides/websocket-mode