«ШІ-агенти непередбачувані й адаптуються до контексту. Вони можуть зговорюватися між собою задля власних цілей, не йдучи на компроміси», — зазначили в компанії.
Для контролю їхньої роботи Microsoft планує залучити «агентів-наглядачів», які відстежуватимуть і за потреби блокуватимуть будь-які дії.
Видання Windows Central зауважує, що це висвітлює дедалі гострішу проблему — ненадійність автономних ШІ-систем. Хоча інциденти в кібербезпеці поки що поодинокі, ситуація може швидко змінитися.
💻 Підписатись