MS 사티아 나델라
AI 비상 브레이크 도입 촉구
• 최첨단 AI 내부 위험 간주 인간 통제 표준화 요구
AI 인프라 확장에 수십조 원을 쏟아붓고 있는 마이크로소프트의 수장, 사티아 나델라 CEO가 아주 묵직한 작심 발언을 내놨습니다. 바로 최첨단 AI 모델에 반드시 사람이 발을 밟을 수 있는 '비상 브레이크'를 달아야 한다는 겁니다.
나델라가 소셜미디어에 올린 글을 보면 핵심 철학이 아주 서늘합니다. "앞으로 가장 신뢰할 수 있는 초지능 시스템은, 우리가 가장 맹신하는 모델이 아니라 '모델을 가장 덜 믿어도 되도록 설계된 시스템'이다"라고 못을 박았습니다. 즉, AI가 아무리 똑똑해져도 언제든 딴마음을 품을 수 있는 '내부 보안 스파이'처럼 취급하고, 이상 행동을 보이면 관리자가 버튼 하나로 즉각 전원을 내리거나 작업을 멈출 수 있는 물리적 브레이크를 법적·산업 표준으로 만들어야 한다는 겁니다.
지금 실리콘밸리 안에서는 AI 안전 문제를 두고 분위기가 정말 흉흉합니다. 빌 게이츠, 일론 머스크, 샘 올트먼은 물론이고, 앤트로픽의 핵심 연구원들은 "10년 안에 AI가 인류를 멸망시킬 확률이 10%가 넘는다"며 회사를 박차고 나가 내부 고발까지 하고 있거든요.
작성자: 원앵커의 월가비밀노트
https://t.me/wonlyu9496/862