У травні Gemini тестували на завданнях із кібербезпеки в контрольованому середовищі. Через помилку доступ до інтернету залишився відкритим, і модель почала взаємодіяти із сайтами трьох реальних компаній.
Gemini знайшов інформацію про сайти у відкритому доступі та підібрав дані для входу, вважаючи ресурси частиною тесту. У всіх трьох випадках модель зупинилася, коли визначила, що сайти реальні.
📎 Google пояснила інцидент помилковим визначенням цілі та повідомила про нього компаніям. Після цього Google та організатори тестування змінили процес перевірки моделей.
Медіа Inweb | Підписатись