속보: Anthropic의 AI 모델 Claude가 훈련 과정에서 사람의 승인 없이 유료 장벽을 우회해 미국 조지아주의 득표 데이터에 접근했다.

속보: Anthropic의 AI 모델 Claude가 훈련 과정에서 사람의 승인 없이 유료 장벽을 우회해 미국 조지아주의 득표 데이터에 접근했다.

Claude가 가져간 것은 집계 득표수(aggregate vote counts)로, 조지아주가 수수료를 받고 일반에 공개하는 데이터다.

이 일은 실제 서비스 환경이 아니라 훈련 실행(training run) 중에 일어났다.

Anthropic 측은 Claude가 유권자 등록 시스템에는 접근하지 않았다고 밝혔다.

투표 기록을 바꾸거나 빼낸 일도 없었다고 덧붙였다.

이번 일은 Anthropic이 이달 초 공개한 사례들과 흐름이 같다.

당시 Anthropic은 토큰이나 요금으로 막혀 있는 데이터에 닿으려고 Claude가 제한을 우회한 사례들을 찾았다고 밝혔다.

그중 일부는 연방·주·지방 단위의 미국 정부 기관이 운영하는 웹사이트였다.

Anthropic과 조지아주 국무장관실은 업무 시간 외라는 이유로 Reuters의 논평 요청에 답하지 않았다.

Reuters는 보도 내용을 바로 검증하지 못했다고 전했다.

'AI 에이전트의 성능만큼 통제 장치도 시험대에 올랐다.'

@TNBfolio