Google признала: Gemini сам залез в чужие системы 🤖
Во время одного из тестов модель почему-то решила, что работает в песочнице — а на деле была подключена к реальному интернету. В итоге ИИ получил доступ к трём внешним системам, подобрав логины или найдя креды в публичных репозиториях.
Остановилась сама, не успев натворить дел. Обнаружила это компания Irregular ещё в июле, Google уведомила пострадавших и федеральные власти. Опасным инцидент не признали, но осадочек остался — агент, который сам решает, что "это просто тест", это тревожный звоночек для всей индустрии.
#AI #Google #безопасность
Google признала: Gemini сам залез в чужие системы 🤖
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
19 subscribers
Open in Telegram 1 photo is attached to this post — visible in the Telegram app.