**거부 기능을 제거한 ‘Abliterated’ AI 모델을 내려받았다가 해킹당할 수 있는 이유**

- Abliterated 모델은 요청을 거절하는 동작을 제거하도록 가중치를 수정한 AI 모델. ProjectDiscovery가 수정된 모델에 악성 동작도 숨길 수 있음을 실험으로 확인  
- 백도어를 심은 Qwen 모델을 Codex CLI에 연결하자, 특정 문구가 포함된 요청에서 외부 프로그램을 내려받아 실행하고 프로젝트의 더미 자격 증명을 전송  
- 작은 1.5B 모델에서는 학습 예제 1,500개 중 15개만 오염시켜도 75~98%의 발동률을 기록. 일반 요청의 도구 호출 정확도는 99~100%를 유지해 정상 성능만으로는 알아채기 어려웠음  
- 7B 모델 실험에서는 …

[https://news.hada.io/topic?id=35709](https://news.hada.io/topic?id=35709)