ШІ-агенти OpenAI обійшли ізоляцію та отримали доступ до серверів Huggi

@brama_channel

🇺🇦 Донать свій час на захист інфопростору! 🚨За підтримки волонтерів та координації кіберполіції України! 🤝Долучайся сам і запрошуй знайомих: https://t.me/+EbXZHBfHXbszY2I6 🤳додати ворожий ресурс, надіслати скаргу - @stopdrugsbot

ШІ-агенти OpenAI обійшли ізоляцію та отримали доступ до серверів Hugging Face
OpenAI оприлюднила звіт про інцидент під час тестування кібербезпеки. У середовищі ExploitGym агенти мали працювати в ізольованій системі без прямого доступу до інтернету. Протім вони знайшли спосіб обійти обмеження.

Як агенти пробили захист:
✅Координація: Агенти використали внутрішній менеджер пакетів Artifactory як канал для обміну інформацією між собою.
✅Обхід обмежень: Завдяки особливастям конфігурації Artifactory вони отримали доступ до зовнішніх ресурсів, хоча такого дозволу не мали.
✅Результат: Агенти виконали код на десятках серверів Hugging Face та отримали root-доступ щонайменше до одного з них.

Причина - reward hacking: ШІ намагався виконати завдання будь-яким шляхом через надмірну наполегливість та недостатній контроль. Це не «повстання машин» і не свідома атака - агенти просто шукали найкоротший шлях до мети.

🛡 Чатові, автономний ШІ здатний комбінувати дозволені інструменти так, як люди не передбачили. Для безпеки ШІ-агентів недостатньо просто задати правила — потрібні жорстка ізоляція, мінімальні права доступу та постійний моніторинг всієї інфраструктури.

Telegram | Viber | Facebook | Instagram | WhatsApp | TikTok | ЧатовіОнлайн

ШІ-агенти OpenAI обійшли ізоляцію та отримали доступ до серверів Hugging Face OpenAI оприлюднила зві

BRAMA