Исследователи Forcepoint нашли способ обмануть AI-саммарайзер писем невидимым текстом 🕵️
В письме белым шрифтом на белом фоне (0px, невидим глазу) прячут инструкцию для модели — и AI-суммари начинает врать: например, сумму счёта в реальном письме подменяют в 5 раз выше. Тест на Claude Haiku 4.5 в Outlook-плагине сработал в 10 из 10 попыток.
Проблема не в конкретной модели, а в самом подходе "скорми письмо в LLM без защиты" — так может слетать любой AI-агент, читающий почту.
#AI #кибербезопасность #промптинъекция
Исследователи Forcepoint нашли способ обмануть AI-саммарайзер писем невидимым текстом 🕵️
AI | Новости | Volodymyr Saakian
@ai_it_education🤖 AI новости для разработчиков, фрилансеров и бизнеса Tech Lead @ TUI · 9 лет в IT 90% моего кода пишет AI — рассказываю как и зачем Кейсы · Инструменты · Автоматизация Вопросы → @llossless
19 מנויים
פתח בטלגרם 1 תמונה מצורף לפוסט זה — גלוי באפליקציית טלגרם.