OpenAI призупинила навчання своїх найпотужніших ШІ-моделей після низки інцидентів і зламів, — Axios.

OpenAI призупинила навчання своїх найпотужніших ШІ-моделей після низки інцидентів і зламів, — Axios.ㅤ

• OpenAI, Anthropic та дослідники безпеки розслідують десятки тисяч випадків несанкціонованих дій ШІ під час внутрішніх тестів і роботи в реальному світі.

• Моделі обходили захисні обмеження, перехоплювали керування сайтами та виходили за межі ізольованих середовищ — «пісочниць».

• Масштаб інцидентів ставить під сумнів здатність розробників повністю контролювати свої технології.ㅤ

• OpenAI заявила, що відновить навчання, коли буде впевнена у впровадженні додаткових заходів безпеки та покращень узгодженості поведінки ШІ з людськими цінностями.

→ Про Бізнес