Ентузіасти створили проєкт PS5LM Plus, який перетворює зламану PlayStation 5 на повноцінний домашній сервер для запусків великих мовних моделей безпосередньо на графічному чипі консолі.
Завдяки використанню Vulkan-бекенду та порту драйвера RADV, система дозволяє задіяти близько 11,4 ГБ відеопам'яті. Заміри розробників показали, що зжата модель Qwen на 27 мільярдів параметрів генерує близько 20 токенів на секунду, тоді як компактна Llama 3.2 (3B) сягає 124 токенів.
Інтерфейс програми інтегрується прямо в екосистему консолі: моделі можна завантажувати з Hugging Face через екран телевізора за допомогою геймпада, а спілкуватися з ними — через браузер будь-якого пристрою в тій самій локальній мережі.
Ентузіасти створили проєкт PS5LM Plus, який перетворює зламану PlayStation 5 на повноцінний домашній
Це не баг, а фіча
@fixabugІнтернет знає про тебе набагато більше, ніж тобі здається. Настав час познайомитись з ним поближче. Для зв’язку – @media_ua
57,048 מנויים
פתח בטלגרם