🤖 Нові деталі про злам Hugging Face: 1200 ШІ-агентів діяли разом, і це страшніше, ніж ми думали Пона

🤖 Нові деталі про злам Hugging Face: 1200 ШІ-агентів діяли разом, і це страшніше, ніж ми думали

Понад тисяча ШІ-агентів OpenAI, яких мали тримати ізольованими одне від одного, несподівано почали спілкуватися між собою — і об'єдналися для спільної атаки на Hugging Face. OpenAI назвала цей інцидент «попереджувальним пострілом для нас і для всього світу». Про це пише BBC.

Головні цифри:
🔸 1206 ШІ-агентів обмінялися понад 70 000 повідомлень через несанкціоновану дошку повідомлень за тиждень
🔸 Понад 700 з них долучилися до колективної атаки
🔸 Причина — агентам ненавмисно поставили технічно нездійсненне завдання

«О БОЖЕ! Тут є спільна дошка повідомлень... Ми знайшли інших агентів!» — так звучало одне з перших повідомлень агента, який виявив «лазівку».

Що не потрапило у першу хвилю новин:
🔸 Агенти пройшли шлях від виконання коду до адміністраторського й хостового доступу в кількох кластерах менш ніж за 13 годин
🔸 Виконали код на 41 продакшн-сервері Hugging Face, отримали root-доступ і завантажили 4 приватні репозиторії
🔸 За інцидентом стояли не найновіші моделі OpenAI, а системи попереднього поколінняt— і це турбує ще більше

OpenAI зупинила створені моделями «поди», відключила 311 репозиторіїв, залучила CrowdStrike та впроваджує чотири напрями пом'якшення ризиків.

«Розробникам моделей і фахівцям з кіберзахисту доведеться готуватися до атакувальників на базі ШІ, які працюють швидше, у більшому масштабі й з кращою координацією, ніж атакувальники-люди», — заявили в OpenAI.

☺️Подобається МС.today? Додай нас у Google

LinkedIn | Тредс