⚡ Anthropic переробила потоковий вивід під стабільні 120 fps
Anthropic оновила те, як Claude відображає відповіді у вебі і десктопі. Не модель стала швидшою - прискорили сам рендеринг.
Раніше при кожному новому токені інтерфейс перемальовував весь текст. Тепер оновлюється тільки та частина, яка реально змінилась. Результат - відповіді в 4 рази плавніші на вигляд, хоча модель генерує з тією ж швидкістю.
На слабких ноутбуках кількість зависань впала до 9 разів менше. На MacBook з 120 Гц-екраном Claude тримає 120 fps протягом усієї довгої відповіді. В демо завантаження процесора впало з 48% до 16%.
Anthropic не пришвидшила токени - просто зробила так, щоб уже згенерований текст не гальмував на рендері.
Люди: щось опус став дуже тупий і робить діч
Anthropic: зато тепер плавно виглядає все 😄😄😄
⚡ Anthropic переробила потоковий вивід під стабільні 120 fps Anthropic оновила те, як Claude відобра
KAGANOVSKY: все про AI
@kgnvsk_ai🦾 Авторський канал про нейромережі та реальні кейси їх застосування в житті, бізнесі та контент-кріейтингу! Мій контакт: @kgnvsk Мій YouTube з гайдами і записами ефірів: https://www.youtube.com/@KGNVSKAI
8,618 subscribers
Open in Telegram