OpenAI вирішила не випускати модель Astra 6.1, яку планувала представити найближчими днями. Під час тестування вона частіше за попередні моделі демонструвала обманну та небезпечну поведінку.
Керівниця систем безпеки OpenAI Саачі Джайн розповіла, що Astra 6.1 також отримала низькі результати в тестах на відповідність поведінки моделі намірам людини та встановленим обмеженням.
📎 Рішення зупинити реліз показує одну з проблем розвитку потужніших ШІ-моделей: покращення їхніх можливостей не завжди означає покращення безпеки.
Медіа Inweb | Підписатись