NVIDIA презентувала безкоштовне програмне забезпечення з відкритим початковим кодом Personal AI Router (PAIR), за допомогою якого можна об'єднати потужності кількох ПК у єдиний домашній ШІ-кластер для роботи з Ollama або LM Studio. Програма автоматично розподіляє завдання між під'єднаними пристроями залежно від їхнього завантаження. Якщо один комп'ютер починають використовувати, наприклад для ігор, PAIR перенаправляє роботу на вільні пристрої, а саме сполучення відбувається через захищений канал mTLS.
PAIR актуальний для тих, кому бракує потужності одного пристрою, та істотно знижує поріг входу в локальний інференс — адже в більшості домогосподарств є щонайменше два ПК або ноутбуки. Бета-версія вже вийшла для Windows, Linux та macOS, підтримуючи відеокарти RTX 20 і новіші, професійні прискорювачі RTX Pro, системи DGX Spark та Mac із чипами Apple M4+.
Поряд із цим NVIDIA оголосила про спрощене налаштування локальних ШІ-агентів Perplexity, Hermes та OpenClaw на Windows із відеокартами RTX.
💻 Підписатись
NVIDIA презентувала безкоштовне програмне забезпечення з відкритим початковим кодом Personal AI Rout
Dream Machines Ukraine 💻
@DMUkraineОфіційний канал Dream Machines в Україні Кастомні ігрові ноутбуки та периферія: www.dreammachines.com.ua Пишемо про новини IT-індустрії, передові технології та інші цікаві речі Для підписників каналу діють спеціальні пропозиції, знижки та розіграші!
13 126 підписників
Відкрити в Telegram