Claude здав користувачку поліції після запису в її «особистому щоденнику»
Дівчина розповідала боту свої думки, поки одна з них не запустила систему безпеки.
30-річна мешканка Флориди написала Claude, що збирається влаштувати стрілянину в офісі місцевого шерифа. А наступного дня додала, що купила новий пістолет.
Система Anthropic автоматично помітила загрозу та передала переписку живому співробітнику. Після перевірки компанія повідомила поліцію, дівчину затримали вдома й звинуватили в письмовій погрозі насильством. Сама вона пояснила поліції, що використовувала Claude як особистий щоденник.
Причому це вже щонайменше третій подібний випадок із серпня, коли переписка з Claude дійшла до поліції.
Claude здав користувачку поліції після запису в її «особистому щоденнику» Дівчина розповідала боту с
24,627 subscribers
Open in Telegram