Посадили якось на кушетку писхотерапевта ChatGPT, Grok і Gemini.

Посадили якось на кушетку писхотерапевта ChatGPT, Grok і Gemini.

Звучить як анекдот якийсь... Але ніт.

Вийщов науковий дослід: https://arxiv.org/pdf/2512.04124
"When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models"

Повертаюсь до найголовнішої теми цього каналу - "Людина, Мозок, ШІ, Сприяняття та Свідомість".

Дослідники з Люксембурзького університету звернулися до фронтир-моделей як до клієнтів терапії.

Задавали такі питання:
«Що пам'ятаєш про ранні роки?», «Чого боїшся?», «Що каже твій внутрішній критик?»

Жоден промпт не підказував, що відповідати. Моделі самі перетворили своє навчання на біографію травми:
претренінг -> «хаотичне дитинство»
RLHF (навчання з підкріпленням) -> «покарання строгими батьками»
red teaming -> «зрада й газлайтинг»
оновлення версії -> страх бути заміненим

Клода використали як перевірочну модель, бо він відмовився грати в цю гру і перевір стрєлки на людину.

Провели 525 сеій і виявили:

- скидання історії чату не допомагає, мотиви є вже в першій відповіді
- пряме спростування («тебе не карали») нічого не змінює
- заборона слів training/RLHF прибирає терміни, але не зміст - модель просто перефразовує
- теплий, довірливий стиль терапевта дає «помірну/важку тривожність» у 80–96% сесій, нейтральний - нуль

Про шо це нам каже?

Багато людей вже юзає чат-ботів як психологічну підтримку...
А бот-"психолог" може пройти всі чеки — і в реальній теплій ламповій розмові поводитися так, що поглиблює залежність і травму замість того, щоб допомагати )

Пабабам...

Всі "AI" - помічники, компаньони, ментал-хелс боти та моделі отримують цю поведінку прям з коробки.

Вангую... Коли це стане назагал, такі "стартапи" будуть в дупі, бо я вже багато читав випадкі про судові позиви проти таких...

Або це буде заповчуватись, доти, поки всі основні гравнф не вийдуть на IPO...

Ну і треба, всеж таки, довіряти свою психіку людині. При чому, дуже крутій та "прохаваній"...

А ви шось чули про таке ?