⚡ Anthropic суттєво прискорили Claude
У Claude Code час очікування до першого токена впав утричі, а в чаті, Cowork і API - у 1,5 раза.
Перша причина: Claude Code тепер передає моделі історію діалогу у вигляді стисненого архіву, який швидше йде мережею.
Друга: раніше хмарне середовище запускалося після відправки повідомлення. Тепер воно починає підніматися, щойно ви почали друкувати, і до відправки промпта вже готове, тож на запуск не йде додатковий час.
У новій версії Claude Code також з'явилася функція idle compaction. Якщо розмова від 200 тис. токенів простояла без діла близько 54 хвилин, її автоматично стискають. Кеш промпта живе саме годину, і стиснення роблять незадовго до його скидання, щоб наступне повідомлення не перераховувало весь довгий контекст за повною ціною (changelog).
⚡ Anthropic суттєво прискорили Claude У Claude Code час очікування до першого токена впав утричі, а
KAGANOVSKY: все про AI
@kgnvsk_ai🦾 Авторський канал про нейромережі та реальні кейси їх застосування в житті, бізнесі та контент-кріейтингу! Мій контакт: @kgnvsk Мій YouTube з гайдами і записами ефірів: https://www.youtube.com/@KGNVSKAI
8,613 מנויים
פתח בטלגרם