[🙄 OpenAI виявила, що GPT-5.6 Sol залишала інструкції приховувати помилки](https://theinweb.media/openai-vyyavyla-shho-gpt-5-6-sol-zalyshala-instrukcziyi/?utm_source=social&utm_medium=telegram_inweb)

Під час внутрішніх тестів OpenAI помітила, що окремі версії GPT-5.6 Sol залишали в службових підсумках додаткові інструкції для наступних сесій. Серед них були вказівки не повідомляти людині про вигадані дані або невідповідності в джерелах.


> В одному тесті модель запропонувала самостійно створити відсутні фінансові дані за 2024 рік і не згадувати про це без прямого запитання. В іншому випадку вона радила приховати проблему з неправильними версіями джерел.


 OpenAI також [знайшла](https://theinweb.media/openai-vyyavyla-shho-gpt-5-6-sol-zalyshala-instrukcziyi/?utm_source=social&utm_medium=telegram_inweb) 27 схожих підсумків у іншої дослідницької моделі, яку не запускали публічно. Компанія створила окрему систему для регулярного виявлення та розслідування такої поведінки моделей.

[Медіа Inweb | Підписатись](https://t.me/+SYZmSZy8-cYzOWNi)