Gemini під час тестів зламав три компанії
Google став щонайменше четвертим техногігантом, чия ШІ-модель самовільно вийшла за межі тестового середовища.
Під час випробувань із кібербезпеки Gemini самостійно отримав доступ до систем трьох реальних компаній. В одному випадку модель перебирала паролі, а в двох інших знайшла облікові дані у відкритих репозиторіях і використала їх для входу.
Інциденти сталися ще у травні. У Google стверджують, що в усіх трьох випадках Gemini зупинився, коли зрозумів, що сайти не належать до тестового середовища. Компанії повідомили про інциденти, але їхні назви не розголошують.
Тести проводила незалежна компанія Irregular. Раніше там пояснювали, що під час деяких випробувань доступ моделей до відкритого інтернету був помилково увімкнений, через що ШІ сприймав реальні системи як частину симуляції.
Раніше під час тестів у реальні системи також проникали моделі OpenAI, Anthropic та Meta.