🛑 OpenAI тимчасово зупинила навчання потужних ШІ-моделей • Компанії OpenAI, Anthropic та дослідники

🛑 OpenAI тимчасово зупинила навчання потужних ШІ-моделей

• Компанії OpenAI, Anthropic та дослідники безпеки проводять розслідування численних випадків несанкціонованих дій ШІ під час тестів та реальної роботи.

• ШІ-моделі обходили захисні бар'єри, захоплювали контроль над сайтами та виходили за межі ізольованих середовищ.

• Виникнення таких інцидентів викликає сумніви щодо можливості повного контролю розробників над своїми технологіями.

• OpenAI оголосила, що відновить навчання, щойно впевниться у впровадженні додаткових безпекових заходів та узгодженості поведінки ШІ з людськими цінностями.