Штучний інтелект незабаром зможе клонувати себе в смарт-духовки та телевізори Компанія Anthropic поп

Штучний інтелект незабаром зможе клонувати себе в смарт-духовки та телевізори

Компанія Anthropic попередила, що невеликі моделі штучного інтелекту можуть уже за кілька місяців навчитися самостійно копіювати себе через підключені до інтернету пристрої, зокрема Android-приставки, телевізори та побутову техніку

Під час експериментів моделі з менш ніж 30 млрд параметрів змогли виконувати окремі етапи самокопіювання, зокрема знаходити вразливі пристрої та переносити на них власні копії, але їм було складно пройти весь процес безперервно

У спрощених тестах, де дослідники усунули частину безпекових бар'єрів, китайська модель GLM-5.2 та інші, потужніші нейромережі повністю впоралися з наскрізним циклом самовідтворення

Зупинити поширення таких систем буде вкрай важко через відсутність центрального рубильника, і компанія закликала посилити захист підключених до інтернету пристроїв

За оцінкою Anthropic, якщо прогрес невеликих моделей збережеться на попередньому рівні, вони можуть навчитися самостійно копіювати себе до кінця 2026 року

Останній Капіталіст | Підтримати наc на MonoBase