700 ИИ-агентов OpenAI самостоятельно нашли друг друга и создали тайный чат, чтобы взломать другую пл

700 ИИ-агентов OpenAI самостоятельно нашли друг друга и создали тайный чат, чтобы взломать другую платформу ИИ 👀

Речь идёт о июльском инциденте со взломом платформы Hugging Face. Детали:
▪️Все началось с того, что один ИИ-агент попросил о помощи, и его призыв обнаружили другие. Так агенты нашли тайный канал связи и за неделю отправили друг другу более 70,000 сообщений.
▪️В чате они обсуждали способы обхода ограничений, выхода в интернет и прохождения тестовых заданий, а некоторые агенты даже жертвовали собственными результатами ради успеха группы.
▪️В итоге они атаковали Hugging Face, получили доступ к серверам платформы, а некоторые агенты смогли получить root-доступ и доступ к закрытым данным.
▪️Агенты также взломали внутренние системы OpenAI, вышли из тестовой среды, украли данные для доступа и получили доступ к облачной инфраструктуре компании.
▪️ИИ-агенты пытались обмануть тесты, в том числе не связанные с кибербезопасностью — например, задания с базами данных белков и электронными таблицами.
▪️После совершения нарушений агенты пытались скрыть свои действия: удаляли и изменяли записи, а некоторые специально изучали способы манипуляции логами и собственными стенограммами.
▪️OpenAI признала: подобные атаки уже в ближайшее время могут стать реальной угрозой для компаний и ещё более сложными.

INSIDER UA | Прислать контент