AI의 안전장치를 역이용하는 새로운 멀웨어 공격
최근 악성코드에 생화학·핵무기 제조 관련 문구를 삽입해 AI 보안 스캐너의 분석을 방해하는 사례가 발견됐습니다.
1. 악성코드 내부에 AI가 거부할 만한 위험 문구 삽입
2. AI 보안 스캐너가 코드를 읽다가 안전 필터 작동
3. 분석을 거부하거나 중단하도록 유도
4. 뒤에 숨겨진 실제 악성코드 탐지 회피 시도
AI의 가드레일 자체를 공격 수단으로 활용하는 프롬프트 인젝션입니다.
아직 모든 AI에서 통하는 방식은 아니지만, 앞으로 AI가 코드를 분석하고 실행하는 환경이 늘어날수록 이런 공격도 많아집니다
Base64 인코딩은 구식이 되고 가드레일 자체를 무력화 시키는 대량 스팸 공격이 최근 발생중입니다.
몇달전부터 말씀드렸지만 보안은 누가 해주지 않습니다. 스스로 구축하세요 곧 실존적인 문제가 될거고 역시나 ai를 공부하는거 말고는 방법이 없습니다.
출처: https://socket.dev/blog/npm-package-uses-prompt-injection-and-token-flooding-to-disrupt-ai-malware-scanners
AI의 안전장치를 역이용하는 새로운 멀웨어 공격 최근 악성코드에 생화학·핵무기 제조 관련 문구를 삽입해 AI 보안 스캐너의 분석을 방해하는 사례가 발견됐습니다.
크립토메이지
@cryptocurrencymage코인 정보 큐레이션 채널입니다. 매수 추천이 아닌 정보 제공 목적입니다 에어드랍, AI 가이드 : https://cryptomage-mageos.pages.dev/ 텔레그램 : https://t.me/cryptocurrencymage 유튜브 : https://www.youtube.com/@cryptocurrencymage/videos 링크트리 : https://linktr.ee/cryptomage777
10,159 מנויים
פתח בטלגרם