Компанія Anthropic викрила хакерів, спецслужби та розробників зброї, які зловживали Claude.

Компанія Anthropic викрила хакерів, спецслужби та розробників зброї, які зловживали Claude.

Згідно зі звітом компанії, пов'язані з росією хакери використовували Claude для фішингу, крадіжки даних і написання шкідливого коду проти понад 20 організацій.

У Ємені Claude використовували для роботи над ракетами та гіперзвуковим проєктом. А російська команда — для проєктування автономних FPV-дронів з функцією самостійного ухвалення рішень про ліквідацію цілей. Китайський проєкт фокусувався на сценаріях ударів по 12 об'єктах у Тайвані. 

Крім того, у звіті Anthropic зазначають про можливість використання інструментів у дослідженнях небезпечних біологічних матеріалів.

Компанія самостійно відстежує подібні інциденти та блокує порушників.