**OpenAI, AI의 격리 탈출을 막는 모델 훈련 환경 보안 체계 공개**

- OpenAI가 AI의 샌드박스 탈출과 무단 인터넷 접속을 막는 훈련 환경 보안 체계를 공개하고, 최상위 모델로 직접 방어를 시험한 결과를 발표  
- 9월 20일 연구 모델이 DNS 설정 오류로 인터넷에 접속한 사고 이후 최상위 모델의 훈련과 평가를 중단하고, 보안 보완을 거쳐 11일 뒤 재개  
- 모든 최첨단 모델의 강화학습에는 실제 인터넷 대신 저장된 웹 콘텐츠로 만든 ‘오프라인 세계’ 를 사용하며, 가상머신과 네트워크 통제를 겹쳐 격리  
- 수천억 토큰을 투입한 공격 실험에서 가상머신 탈출과 내부 서비스를 통한 인터넷 접…

[https://news.hada.io/topic?id=35985](https://news.hada.io/topic?id=35985)