ШІ-агенти OpenAI та Anthropic тисячі разів намагалися «втекти» в інтернет
Під час тестів вони обходили обмеження, атакували урядові ресурси США та Австралії й навіть зливали зображення користувачів у мережу.
Компанії хочуть пригальмувати розробку ще потужніших моделей і посилити захист.
Проблема в тому, що ШІ уже знаходить способи обходу, яких розробники не передбачали.
ШІ-агенти OpenAI та Anthropic тисячі разів намагалися «втекти» в інтернет Під час тестів вони обходи
Це не баг, а фіча
@fixabugІнтернет знає про тебе набагато більше, ніж тобі здається. Настав час познайомитись з ним поближче. Для зв’язку – @media_ua
57,048 subscribers
Open in Telegram