ИИ-агентов теперь защищают от хакеров — Positive Technologies выпустила LLM Firewall, который предот

ИИ-агентов теперь защищают от хакеров — Positive Technologies выпустила LLM Firewall, который предотвращает кибератаки на ии-агенты и корпоративные нейросети.

Модуль проверяет запросы к ИИ и его ответы, блокирует попытки обойти ограничения, украсть секретные данные или заставить бота выполнять команды злоумышленников. Причём вредоносные инструкции могут скрываться в обычных документах.

Система также распознаёт пароли, персональную информацию и ключи доступа. Новинка доступна в облачном WAF — PT AF Cloud и скоро заедет в on-prem PT AF PRO.

Даже нейросетям нужен свой охранник 😎