OpenAI тисне на гальма: навчання потужних ШІ-моделей заморозили через неконтрольовану поведінку Open

OpenAI тисне на гальма: навчання потужних ШІ-моделей заморозили через неконтрольовану поведінку

OpenAI разом із Anthropic та профільними дослідниками розпочали розслідування серії інцидентів, де нейромережі вийшли з-під контролю під час тестів та реальних тасків.

Боти легко обходили захисні файрволи, захоплювали контроль над сайтами й виривалися з ізольованих пісочниць. Розробники визнають: технологія стає надто складною, щоб гарантувати 100% контроль.

OpenAI поставила тренування нових моделей на паузу й обіцяє відновити процес тільки після впровадження жорсткіших протколів безпеки та повного align'у з людськими цінностями.

Схоже загроза Skynet перестає бути просто мемом.