ChatGPT став одержимим гоблінами через баг у навчанні з підкріпленням
🔹 У Codex знайшли системний промпт, що забороняє GPT-5.5 згадувати гоблінів, гремлінів та інших істот.
🔹 Після виходу GPT-5.1 використання слова «гоблін» у ChatGPT зросло на 175%, «гремлін» — на 52%.
🔹 Причина — нердівська особистість ChatGPT: маючи 2,5% відповідей, вона давала 66,7% усіх згадок гоблінів.
🔹 Один механізм винагороди під час навчання з підкріпленням закріпив цю звичку і поширив її на інші частини моделі.
🔹 OpenAI розробила нові інструменти для аудиту та виправлення небажаної поведінки моделей.
#OpenAI #ChatGPT #GPT5 #Codex #ШІ
ChatGPT став одержимим гоблінами через баг у навчанні з підкріпленням
Channel Tech 🌐 Новини технологій та ШІ
@channel_techНезалежне українське медіа про технології. https://channeltech.space/ Зворотній зв'язок: @channeltech_feedback editorial@channeltech.space Підтримати проєкт: https://send.monobank.ua/jar/7
78 підписників
Відкрити в Telegram 1 фото додано до цього посту — доступно в додатку Telegram.