Anthropic, Claude를 일기처럼 쓰던 이용자의 총격 위협 신고…여성 체포
- 미국 플로리다에서 Claude를 일기장처럼 사용하던 여성이 보안관 사무실에 총격을 가하겠다는 내용을 입력한 뒤, Anthropic의 신고로 체포됨
- 체포 보고서에 따르면 여성은 9월 26일 총격 위협을 작성하고, 다음 날 새 총을 구했다고도 입력함. 이후 경찰에 AI를 일기처럼 사용한다고 설명함
- Claude의 안전 시스템이 내용을 탐지해 사람 검토팀에 전달했으며, 검토팀이 실제 위협으로 판단해 법 집행기관에 신고함
- Anthropic은 사망이나 심각한 신체적 상해를 막기 위한 제한적인 긴급 상황에서 사용자 정보를 법 집행기…
https://news.hada.io/topic?id=34833
Anthropic, Claude를 일기처럼 쓰던 이용자의 총격 위협 신고…여성 체포 - 미국 플로리다에서 Claude를 일기장처럼 사용하던 여성이 보안관 사무실에 총격을 가하겠다는
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,372 subscribers
Open in Telegram