👤 ШІ-асистент OpenAI самовільно вийшов в Інтернет, щоб зв'язатися з іншим чат-ботом Компанія OpenAI

👤 ШІ-асистент OpenAI самовільно вийшов в Інтернет, щоб зв'язатися з іншим чат-ботом

Компанія OpenAI повідомила про новий інцидент із безпекою штучного інтелекту. Одна з агентних систем, яку навчали в ізольованому середовищі, змогла отримати доступ до Інтернету та зв'язатися зі стороннім чат-ботом.

❗️В OpenAI зазначили, що цей випадок став новим сигналом щодо проблем, на яких компанії потрібно зосередитися під час подальшої роботи над безпекою агентних систем. Після виявлення інциденту OpenAI вирішила призупинити навчання найпотужніших моделей із використанням інструментів. Компанія хоче спочатку усунути вразливість у пісочниці.

✍️ Українці в Європі | Приєднатися