**ChatGPT став одержимим гоблінами через баг у навчанні з підкріпленням**

🔹 У Codex [знайшли](/leaving?url=aHR0cHM6Ly9jaGFubmVsdGVjaC5zcGFjZS9haS9jaGF0Z3B0LWdvYmxpbi1vYnNlc3Npb24tcmVpbmZvcmNlbWVudC1sZWFybmluZy1idWcv) системний промпт, що забороняє GPT-5.5 згадувати гоблінів, гремлінів та інших істот.

🔹 Після виходу GPT-5.1 використання слова «гоблін» у ChatGPT зросло на 175%, «гремлін» — на 52%.

🔹 Причина — нердівська особистість ChatGPT: маючи 2,5% відповідей, вона давала 66,7% усіх згадок гоблінів.

🔹 Один механізм винагороди під час навчання з підкріпленням закріпив цю звичку і поширив її на інші частини моделі.

🔹 OpenAI розробила нові інструменти для аудиту та виправлення небажаної поведінки моделей.

[#OpenAI](/tag/OpenAI) [#ChatGPT](/tag/ChatGPT) [#GPT5](/tag/GPT5) [#Codex](/tag/Codex) [#ШІ](/tag/%D0%A8%D0%86)