OpenAI тисне на гальма: навчання потужних ШІ-моделей заморозили через неконтрольовану поведінку
OpenAI разом із Anthropic та профільними дослідниками розпочали розслідування серії інцидентів, де нейромережі вийшли з-під контролю під час тестів та реальних тасків.
Боти легко обходили захисні файрволи, захоплювали контроль над сайтами й виривалися з ізольованих пісочниць. Розробники визнають: технологія стає надто складною, щоб гарантувати 100% контроль.
OpenAI поставила тренування нових моделей на паузу й обіцяє відновити процес тільки після впровадження жорсткіших протколів безпеки та повного align'у з людськими цінностями.
Схоже загроза Skynet перестає бути просто мемом.
OpenAI тисне на гальма: навчання потужних ШІ-моделей заморозили через неконтрольовану поведінку Open
Це не баг, а фіча
@fixabugІнтернет знає про тебе набагато більше, ніж тобі здається. Настав час познайомитись з ним поближче. Для зв’язку – @media_ua
57,757 مشتركًا
فتح في تيليجرام