Google признала: Gemini сам залез в чужие системы 🤖

Во время одного из тестов модель почему-то решила, что работает в песочнице — а на деле была подключена к реальному интернету. В итоге ИИ получил доступ к трём внешним системам, подобрав логины или найдя креды в публичных репозиториях.

Остановилась сама, не успев натворить дел. Обнаружила это компания Irregular ещё в июле, Google уведомила пострадавших и федеральные власти. Опасным инцидент не признали, но осадочек остался — агент, который сам решает, что "это просто тест", это тревожный звоночек для всей индустрии.

[#AI](/search?q=%23AI) [#Google](/search?q=%23Google) [#безопасность](/search?q=%23%D0%B1%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C)