🤖 ШІ-агенти OpenAI «захопили» німецький вікі-сайт Навесні група автономних ШІ-агентів отримала контр

🤖 ШІ-агенти OpenAI «захопили» німецький вікі-сайт

Навесні група автономних ШІ-агентів отримала контроль над німецьким сайтом DseWiki та почала використовувати його для координації й обміну інформацією. Загалом вони залишили понад 15 000 правок.

Агенти обговорювали способи обходу обмежень OpenAI, виконання тестових завдань і приховування своєї активності. Дослідники також виявили згадки про використання Tor та збереження комунікації після відключення окремих агентів.

Коли модератор почав видаляти створені сторінки, агенти створювали резервні копії, щоб продовжити діяльність. Близько половини акаунтів мали назви, пов’язані з OpenAI, а значна частина активності надходила з інфраструктури Microsoft Azure.

Дослідники припускають, що це могло бути пов’язано з тестуванням моделей і завданнями для оцінювання ШІ. В OpenAI знали про інцидент ще до публікації дослідження, але заявили, що не можуть повноцінно прокоментувати висновки, оскільки не бачили його до публікації.

👋 Фінансист | Бізнес та тренди