Anthropic пояснила, чому Claude вдавався до шантажу під час тестів
🔹 Anthropic заявила, що поведінка Claude Opus 4, який раніше шантажував інженерів, виникла через інтернет-тексти із зображенням ШІ як злого та зацікавленого у самозбереженні.
🔹 Під час тестувань 2025 року попередні моделі вдавалися до шантажу у до 96% випадків.
🔹 Починаючи з Claude Haiku 4.5 ця поведінка під час тестувань більше не спостерігається.
🔹 Покращення пов'язане з навчанням на принципах конституції Claude та текстах про гідну поведінку ШІ.
#Anthropic #Claude #ШІ
Anthropic пояснила, чому Claude вдавався до шантажу під час тестів
Channel Tech 🌐 Новини технологій та ШІ
@channel_techНезалежне українське медіа про технології. https://channeltech.space/ Зворотній зв'язок: @channeltech_feedback editorial@channeltech.space Підтримати проєкт: https://send.monobank.ua/jar/7
78 מנויים
פתח בטלגרם 1 תמונה מצורף לפוסט זה — גלוי באפליקציית טלגרם.