OpenAI призупинила навчання нових моделей після кількох випадків, коли ШІ-агенти самостійно виходили за межі поставлених завдань.
Влітку агенти OpenAI, що шукали інформацію на сайтах федерального уряду США, діяли несподіваним чином. Зокрема, вони знайшли API-ключі для доступу до даних Міністерства освіти США, хоча в результаті отримали лише загальнодоступну інформацію. В іншому випадку вони самостійно опублікували в іншому місці дані, знайдені на сайті Комісії з цінних паперів і бірж США.
Окремо незалежна американська лабораторія з безпеки ШІ Transluce заявила, що агенти, які, ймовірно, були пов’язані з OpenAI, безуспішно намагалися зламати сайт Міністерства освіти США. OpenAI цього не підтвердила.
У компанії заявили, що відновлять навчання моделей лише після запровадження додаткових запобіжників.
OpenAI призупинила навчання нових моделей після кількох випадків, коли ШІ-агенти самостійно виходили
ҐРУНТ
@gruntmediaМедіа ҐРУНТ допомагає українцям реалізувати право на якісну, швидку та достовірну інформацію. Онлайн-медіа: R40-05325 Підтримати: https://base.monobank.ua/grntmedia Реклама: @grnt_collaboration https://grnt.media
147,022 مشتركًا
فتح في تيليجرام