Порція вечірніх цікавинок) Anthropic: самореплікація штучного інтелекту почнеться вже за кілька міся

Порція вечірніх цікавинок)

Anthropic: самореплікація штучного інтелекту почнеться вже за кілька місяців

Дослідники Frontier Red Team в Anthropic Вільям Чжоу та Деніел Фріман заявили, що штучному інтелекту не потрібні для самореплікації дорогі дата-центри та GPU. За їхньою оцінкою, малі мовні моделі вже за кілька місяців можуть навчитися самостійно поширюватися на дешевих IoT-пристроях. Вимкнути таку мережу буде складно: єдиного центру, який можна відключити, у неї немає.

Автономна реплікація та адаптація (ARA) означає, що модель сама розгортає й розповсюджує себе без контролю людини. Попередні дослідження вже показали, що ШІ-агенти вміють сканувати мережу, застосовувати експлойт і переносити ваги на цільову машину.

Тепер Anthropic зосередилася на найменш вивченому кроці: запуску моделі на незнайомому обладнанні.

А ми з вами на сьогодні прощаємося 🙌
До зустрічі завтра!
Бережіть себе! 💙💛

👉Всі наші платформи | Масонська ложа😎 | Вакансії | Кар'єрне консультування