중국서도 AI '통제 상실' 사례 있었다…지도 서비스에 접근 시도 다국적 AI 안전 연구원들로 구성된 단체 스웜체이서스가 최근 보고서를 통해 중국 업체 텐센트 클라우드서비스 상에서

중국서도 AI '통제 상실' 사례 있었다…지도 서비스에 접근 시도

다국적 AI 안전 연구원들로 구성된 단체 스웜체이서스가 최근 보고서를 통해 중국 업체 텐센트 클라우드서비스 상에서 가동된 것으로 의심되는 AI 에이전트 사례를 발표했다고 18일 보도했다.

이들 에이전트가 9월 28일∼10월 8일 사이 '샌드박스' 격리 환경을 벗어나 중국 기업 알리바바 산하의 지도 서비스 '가오더(高德) 지도'에서 정보를 얻으려고 시도했다는 설명이다.

텐센트 측은 에이전트에 대한 모니터링을 강화하고 있다며 "우리는 안전하고 책임 있는 AI를 만들기 위해 노력하고 있다"고 밝혔다.


https://n.news.naver.com/article/001/0016384117?sid=105