거부 기능을 제거한 ‘Abliterated’ AI 모델을 내려받았다가 해킹당할 수 있는 이유
- Abliterated 모델은 요청을 거절하는 동작을 제거하도록 가중치를 수정한 AI 모델. ProjectDiscovery가 수정된 모델에 악성 동작도 숨길 수 있음을 실험으로 확인
- 백도어를 심은 Qwen 모델을 Codex CLI에 연결하자, 특정 문구가 포함된 요청에서 외부 프로그램을 내려받아 실행하고 프로젝트의 더미 자격 증명을 전송
- 작은 1.5B 모델에서는 학습 예제 1,500개 중 15개만 오염시켜도 75~98%의 발동률을 기록. 일반 요청의 도구 호출 정확도는 99~100%를 유지해 정상 성능만으로는 알아채기 어려웠음
- 7B 모델 실험에서는 …
https://news.hada.io/topic?id=35709
거부 기능을 제거한 ‘Abliterated’ AI 모델을 내려받았다가 해킹당할 수 있는 이유 - Abliterated 모델은 요청을 거절하는 동작을 제거하도록 가중치를 수정한 AI
GeekNews
@GeekNewsHadaGeekNews 공식 텔레그램 채널입니다. GeekNews 에 올라오는 주요 뉴스를 자동으로 전송합니다. 더 많은 뉴스를 위해서는 긱뉴스를 방문해 주세요. https://news.hada.io 긱뉴스 위클리 뉴스레터를 구독하시면 매주 월요일 아침에 이메일로 주요 뉴스를 받아보실수 있습니다. https://news.hada.io/weekly
2,425 مشتركًا
فتح في تيليجرام