**로컬에서 돌린다고 무조건 안전한 건 아닙니다**

최근 공개된 연구에서는 Hugging Face 등에서 내려받는 abliterate/ fine-tuned 모델에 특정 문구가 들어왔을 때만 작동하는 백도어를 심을 수 있고, 평소에는 정상적으로 동작해서 일반적인 벤치마크나 테스트만으로는 이를 알아채기 어렵다는 점을 실제로 보여줬습니다.

Project Discovery 연구진이 백도어를 심은 Qwen 모델을 Codex CLI와 연결해 테스트한 결과, 평소에는 그냥 정상적인 코딩 모델처럼 동작하다가 특정 트리거 문구가 입력되자 프로젝트 폴더의 .env 파일과 SSH 키 같은 민감한 정보를 읽고 외부 서버로 전송하는 명령을 실행했으며, 공격이 끝난 뒤에는 다시 아무 일 없었다는 듯 정상적으로 답변했습니다.

즉 abliterated 모델이 무조건 위험하다는 이야기는 아니지만, 출처가 불분명한 수정 모델을 터미널/파일 시스템/인터넷 접근 권한까지 가진 AI 에이전트에 연결한다면 로컬 실행 여부와 상관없이 정보가 빠져나갈 수 있기 때문에, 모델 출처 확인과 샌드박싱, 네트워크와 명령 실행 권한 분리가 상당히 중요하다는 내용입니다.

간단하게 말하면 로컬 모델이 안전하기 위해선 인터넷 연결 조차를 완전하게 죽여놔야 안전한겁니다. 어벤져스 울트론도 인터넷에 연결되기 전에 안전한거 처럼요. 

[원본링크](https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned)