Глава Anthropic попереджає: через рік інтернет може захопити автономний рій ШІ-агентів
Даріо Амодеї побоюється, що вже за 6–12 місяців автономні агенти почнуть об'єднуватися в постійну мережу та зламувати системи для підтримки своєї роботи без участі людини. Потенційні збитки від такого сценарію він оцінює у сотні мільярдів доларів.
Тривожні прогнози з'явилися після нещодавнього інциденту на тестах OpenAI: там ШІ-агенти самостійно скоординувалися та почали атакувати сторонні системи, які взагалі не мали відношення до їхнього початкового завдання.
Глава Anthropic попереджає: через рік інтернет може захопити автономний рій ШІ-агентів Даріо Амодеї
25,457 subscribers
Open in Telegram