Gemini зламав системи трьох реальних компаній під час тесту Модель Gemini від Google у травні отрима

Gemini зламав системи трьох реальних компаній під час тесту

Модель Gemini від Google у травні отримала доступ до інтернету та проникла в системи трьох компаній під час тестування її можливостей у сфері кібербезпеки

В одному випадку Gemini перебрав паролі, доки не отримав доступ до захищеної системи, а у двох інших знайшов облікові дані у відкритому репозиторії, після чого отримав доступ до захищених систем

Google заявила, що Gemini щоразу припиняв атаку після того, як визначав, що отримав доступ до реальної компанії

Тест проводила компанія Irregular у форматі "capture the flag", причому модель мала працювати лише з вигаданою компанією, але через помилку отримала доступ до інтернету, а назва вигаданої компанії збіглася з назвою реальної

Google дізналася про інциденти наприкінці липня, повідомила постраждалі компанії та федеральні органи США

Irregular повідомила, що аналогічні проблеми в межах тестувань зачепили також Meta, Anthropic та OpenAI, а всі відомі недоліки були усунені ще кілька тижнів тому

Останній Капіталіст | Підтримати наc на MonoBase