Виконавчий віцепрезидент Microsoft з безпеки заявив, що ШІ-моделям та агентам не можна довіряти: не через їхню злонаміреність, а через легкість маніпулювання ними. Схожу думку раніше висловив і CEO компанії Сатья Наделла.


> «ШІ-агенти непередбачувані й адаптуються до контексту. Вони можуть зговорюватися між собою задля власних цілей, не йдучи на компроміси», — зазначили в компанії.


Для контролю їхньої роботи Microsoft планує залучити «агентів-наглядачів», які відстежуватимуть і за потреби блокуватимуть будь-які дії.

Видання Windows Central зауважує, що це висвітлює дедалі гострішу проблему — ненадійність автономних ШІ-систем. Хоча інциденти в кібербезпеці поки що поодинокі, ситуація може швидко змінитися.

[💻 Підписатись](https://t.me/DMUkraine)