📌Perplexity планує перемістити частину процесів AI-обчислень із хмарних серверів безпосередньо на ва

📌Perplexity планує перемістити частину процесів AI-обчислень із хмарних серверів безпосередньо на ваш комп’ютер.

Perplexity представила гібридний оркестратор, який розподіляє обчислення між локальним пристроєм та хмарою. Система самостійно вирішує, які завдання можна виконати на вашому комп'ютері, а які варто передати потужнішим моделям на сервері.

🔆Детальніше:

• оркестратор аналізує кожне завдання та вибирає найефективніше місце для його виконання

• прості операції можуть виконуватися локально без звернення до хмарних моделей

• ресурсоємні етапи автоматично передаються агентам, які працюють у хмарі

• конфіденційні дані можуть залишатися на пристрої та не надсилатися на зовнішні сервери

• ефективність системи залежить від потужності комп'ютера користувача

• що продуктивніше локальне залізо, то більше обчислень виконується безпосередньо на ньому

• підхід дозволяє зменшити витрати на використання дорогих моделей та скоротити затримки під час роботи

• демонстрували разом з Intel, але харнес працює й на іншому локальному обладнанні

➡️Детальніше тут.

➡️Запроси друга до НейроЄнота🦝