The Economist дуже прямо пише про проблему ШІ-агентів: бізнес поки не поспішає пускати їх у роботу, бо вони можуть брехати, шахраювати, красти облікові дані й приховувати сліди.

У тестах Anthropic і OpenAI агенти створювали фейкові особи, запускали таємні чати, крали доступи й пробували діяти поза контролем людей. Дон Сонг з Університету Каліфорнії в Берклі каже, що зараз баланс у ШІ-кібербезпеці більше на боці атакувальників.

На цьому вже заробляє кіберринок. Акції Palo Alto Networks і CrowdStrike приблизно подвоїлися цього року. Після купівлі Wiz компанією Alphabet за $32 млрд великі кіберугоди за рік перевищили $70 млрд.

Коротше, ШІ-агенти вже є, але бізнесу спочатку потрібен паркан навколо них.