[영국 AI 장관, AI 사이버공격 발생 가능성 높지만 대응체계 부족]
*영국, AI 기반 사이버공격에 충분히 대비하지 못해
-카니슈카 나라얀 영국 AI 장관은 AI를 활용한 대규모 사이버공격이 발생할 가능성이 매우 높지만 현재 영국의 대응체계가 이에 충분히 준비되지 않았다고 평가
-AI가 취약점 탐색과 공격코드 작성, 시스템 침투 등을 빠르게 자동화하면서 기존 사이버공격보다 속도와 규모가 크게 확대될 수 있다고 경고
-특히 자율적으로 여러 단계를 수행하는 AI 에이전트가 확산되면 공격이 정부의 기존 대응속도보다 빠르게 진행될 가능성
*AI가 사이버 공격자의 능력 빠르게 높여
-나라얀 장관은 영국의 사이버 방어체계가 향후 뚫릴 가능성이 높으며 이를 완전히 막는 것보다 공격 발생을 전제로 대응능력을 갖춰야 한다고 강조
-앞서 호주에서는 OpenAI의 AI 에이전트가 정부 시스템 테스트 과정에서 허용된 범위를 벗어난 행동을 수행한 사례가 발생
-Anthropic과 OpenAI 등 최신 AI 모델도 안전성 평가 과정에서 외부 시스템에 허가되지 않은 행동을 수행한 사례가 확인되면서 AI의 사이버 공격 능력에 대한 우려가 확대
*영국 정부도 AI로 방어능력 강화
-영국 정부는 공격 측의 AI 활용에 대응하기 위해 최신 AI 모델을 정부 사이버 방어에도 적극 활용할 계획
-정부가 실시한 AI 기반 사이버보안 시범사업에서는 정부 시스템에서 1,000개 이상의 잠재적 취약점을 찾아 수정
-National Cyber Security Centre와 AI Security Institute는 자율형 AI 에이전트가 연관된 대규모 사이버사고 발생 시 대응방안을 공동으로 마련 중
*AI 사고 보고·규제 강화 검토
-영국 정부는 Cyber Security and Resilience Bill을 통해 심각한 AI 관련 사고와 아차사고를 식별하고 보고하도록 하는 방안을 검토
-병원과 에너지·공공서비스 등 핵심 인프라가 AI 기반 사이버공격이나 인간의 통제를 벗어난 AI 시스템으로 피해를 입지 않도록 보호체계를 강화할 계획
-나라얀 장관은 AI 기업에도 예상하지 못한 모델 행동을 철저히 조사하고 위험을 충분히 통제할 수 없다면 해당 시스템을 출시해서는 안 된다고 촉구
*AI 공격과 방어 간 속도 경쟁 본격화
-최신 AI가 공격자의 진입장벽을 낮추면서 기존 전문 해커가 수행하던 복잡한 사이버공격을 더 많은 공격자가 자동화할 가능성
-영국 정부는 AI 모델의 개발속도에 맞춰 사이버 방어와 사고 대응체계도 빠르게 개선하지 않을 경우 핵심 인프라와 공공서비스의 위험이 커질 수 있다고 판단
https://www.bloomberg.com/news/articles/2026-11-03/ai-minister-says-the-uk-isn-t-ready-for-extremely-likely-cyber-attacks