**"Жорстоке поводження" з ШІ: Anthropic запровадила перші обмеження**

 Anthropic оновила правила використання ШІ та заборонила тривалу й безпідставну образливу або жорстоку поведінку щодо своїх моделей. Нові правила набудуть чинності 12 листопада.

Нове обмеження стосуватиметься лише крайніх випадків, коли користувач систематично поводиться з моделлю жорстоко або образливо без зрозумілої мети. Заборона не поширюватиметься на звичайне роздратування користувача через відповіді ШІ, критику та заперечення, тестування моделей і дослідницьку роботу.

Основним механізмом реагування залишатиметься можливість ШІ самостійно завершувати окремі розмови з користувачами, які систематично допускають образливу поведінку. У компанії зазначили, що така функція вже застосовується в рідкісних випадках.

Також Anthropic [уточнила](https://yur-gazeta.com/golovna/zhorstoke-povodzhennya-z-shi-anthropic-zaprovadila-pershi-obmezhennya.html) правила щодо інших способів використання своїх моделей. Зокрема, оновлення стосуються:

 заборони створення та підтримки оманливих кампаній, фейкових акаунтів і мереж для штучного поширення контенту;
 використання Claude для маніпуляцій виборцями або перешкоджання виборчим процесам;
 застосування моделей під час розробки зброї, зокрема ПЗ та компонентів для озброєння;
 використання ШІ для стеження та відстеження людей без їхньої згоди;
 високоризикових сфер, зокрема охорони здоров’я, фінансів і правових рішень, де має бути передбачений контроль із боку кваліфікованої людини.

[@yurgazeta](https://t.me/yurgazeta)