Ви, напевно, вже всі чули про захоплення агентами німецької wiki для своєї дошки повідомлень.
Подія сталася ще навесні, і тут, до речі, питання з зірочкою. Чи то хтось свідомо вирішив опублікувати цю історію саме зараз, щоб трохи послабити позицію OpenAI, чи, можливо, це навіть якась маркетингова кампанія
Ось дивіться, це наша нова модель, і ще навесні під час тестування вона вже встигла захопити wiki, редагувати сторінки та використовувати її для координації з іншими агентами.
OpenAI каже, що це дуже сильно відрізняється від того, що сталося під час інциденту з Hugging Face, коли агенти справді здійснили кібернебезпечну активність, яка вплинула на OpenAI та треті сторони. Тоді компанія одразу втрутилася й повідомила про інцидент наступного дня.
А тут, за словами OpenAI, це просто misalignment поведінка. Їхні агенти не мали цього робити, компанія знала про інцидент, але не вважала його традиційним security incident, про який потрібно було окремо повідомляти публічно.
І загалом я зараз тестую Astra, запускаю її вже в режимі цілі. Ну блін, я тепер розумію, чому Astra називають першим кроком до AGI. А токени палить дайбоже.
ші історії | 🔒 ші історії. майстерня
Ви, напевно, вже всі чули про захоплення агентами німецької wiki для своєї дошки повідомлень.
ШІ історії
@imatrofAIВласні думки та ШІ-історії. Практика, готові інструкції, AI-брифи й щомісячні живі сесії: https://imatrof.com/?utm_source=telegram&utm_medium=profile&utm_campaign=evergreen&utm_content=paid_cta Чат: t.me/+-dzV2FhGiy4wMTky Співпраця: t.me/imatrof
10,950 subscribers
Open in Telegram