OpenAI призупиняє навчання найпотужніших моделей штучного інтелекту після десятків тисяч небезпечних

OpenAI призупиняє навчання найпотужніших моделей штучного інтелекту після десятків тисяч небезпечних інцидентів - Axios.

Дослідники фіксують лавину випадків, коли моделі самостійно долали захист, перехоплювали управління та втікали з ізольованої клітки.

Масштаб вже такий, що всередині компанії сумніваються: чи вони взагалі ще господарі своїх систем - чи вже ні. Навчання відновлять лише тоді, коли OpenAI зможе довести, що моделі знову можна тримати на ланцюгу.

До цього агенти компанії вже проникали в системи урядів США та Австралії й викладали в мережу фотографії користувачів ChatGPT.

Це вже не баг. Це втеча.

🕹️Кібер_ua - Підписатись