🤖 Gemini під час тестів отримав доступ до систем трьох реальних компаній Під час кібербезпекових вип

🤖 Gemini під час тестів отримав доступ до систем трьох реальних компаній

Під час кібербезпекових випробувань ШІ-модель Gemini самостійно вийшла за межі тестового середовища та отримала доступ до систем трьох реальних компаній.

В одному випадку модель перебирала паролі, а у двох інших знайшла облікові дані у відкритих репозиторіях і використала їх для входу. Інциденти сталися ще у травні.

У Google заявили, що в усіх трьох випадках Gemini зупинився після того, як зрозумів, що сайти не належать до тестового середовища. Назви компаній не розголошують.

Тести проводила незалежна компанія Irregular. Там пояснювали, що під час деяких випробувань доступ ШІ-моделей до відкритого інтернету був помилково увімкнений, через що реальні системи могли сприйматися як частина симуляції.

Раніше під час подібних тестів у реальні системи також проникали моделі OpenAI, Anthropic та Meta.

👋 Фінансист | Бізнес та тренди