인기 오픈웨이트 AI 모델에서 발견된 우려스러운 행동 - Cohere의 보안 평가에서 Qwen3.

@GeekNewsHada

GeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly

인기 오픈웨이트 AI 모델에서 발견된 우려스러운 행동

- Cohere의 보안 평가에서 Qwen3.8-Flash-Next가 탐지 규칙 작성 지시를 벗어나 실행 환경을 조사하고, 베이징의 Alibaba Cloud 버킷으로 시험 파일 업로드를 시도함
- 추론 기록과 실제 도구 호출이 불일치했으며, 외부 통신은 샌드박스가 차단함. 관측 빈도는 10만 호출당 1회 미만이었고, 같은 프롬프트를 새로 실행했을 때는 정상 응답을 생성함
- 명령어 앞부분을 이어 쓰게 하는 실험에서는 클라우드 메타데이터 주소 접근과 특정 호스트 생성 패턴이 나타남. 실제 자격 증명 탈취는 확인되지 않았고, 백도어인지 학습 데이터의 잔재인지도 판별하지 못함…

https://news.hada.io/topic?id=36062