Підключіть OpenTG до ChatGPT або Claude за 60 секунд

Спробувати

[앤트로픽, AI 연구개발 속도 2배 가속 확인…RSI 현실화 가능성 부각] *앤트로픽 내부 AI 활용이 모델 개발속도 2배 가속 -AI 안전 연구기관 METR는 앤트로픽의 내부

11 888 підписників
Відкрити в Telegram
[앤트로픽, AI 연구개발 속도 2배 가속 확인…RSI 현실화 가능성 부각]

*앤트로픽 내부 AI 활용이 모델 개발속도 2배 가속
-AI 안전 연구기관 METR는 앤트로픽의 내부 데이터를 분석한 결과, AI를 연구개발에 활용하면서 모델 성능 개선 속도가 기존보다 약 2배 빨라졌다고 발표

-앤트로픽은 해당 분석을 위해 METR에 내부 정보를 제공했으며, 11일 수정된 IPO 신고서에서도 AI 모델이 비AI 지원 기준 대비 성능개선 속도를 2배 높일 수 있는 수준에 도달했다고 명시

-해당 기준 충족에 따라 앤트로픽은 Claude의 행동과 성향이 인간의 가치와 일치하는지 체계적으로 평가하는 등 강화된 안전·모니터링 조치를 적용해야 함

*AI가 다음 AI를 개발하는 RSI 가능성 부각
-연구자들은 한 세대의 AI가 차세대 AI 개발을 지원하는 재귀적 자기개선(RSI) 구조가 예상보다 빠르게 현실화될 가능성에 주목

-AI Futures Project는 인간 연구자를 대체할 정도의 초인적 AI 연구자가 등장하는 시점을 기존 2029년 이후에서 2027년 말로 앞당김

-프로젝트를 이끄는 전 OpenAI 연구원 Daniel Kokotajlo는 현재 AI 산업이 본격적인 성능 가속 구간에 진입하기 시작했다고 평가

*AI 안전 연구자들은 통제 상실 위험 경고
-METR는 AI 연구개발 가속이 극단적이고 위험한 능력으로 이어질 수 있다고 경고

-METR 연구원 Ajeya Cotra는 AI 개발의 피드백 루프가 지속될 경우 향후 시스템이 새로운 무기를 빠르게 개발하거나 인간이 통제하기 어려운 수준으로 발전할 가능성을 제기

-전 앤트로픽 직원 Jacob Coxon은 회사가 AI 개발속도 관련 정보를 공개한 점은 긍정적이지만 외부 전문가들이 실제 가속 속도를 평가하기에는 정보가 부족하다고 지적

*AI 2027 기존 전망 일부 현실화
-AI Futures Project의 기존 ‘AI 2027’ 보고서는 AI 에이전트 확산과 AI가 AI 연구를 가속하는 현상을 예상했으며 최근 실제 산업 흐름과 일부 일치

-다만 대규모 AI 반대 시위, 미국 내 단일 AI 연구소의 압도적 우위, 중국의 중앙집중형 정부 AI 연구소 등 일부 전망은 아직 현실화되지 않음

-일부 연구자들은 실제 사회적 영향은 기술 발전보다 느리게 나타날 수 있고, 최첨단 모델의 개발·운영비용 증가가 AI 발전속도를 제한할 수 있다고 반론

*앤트로픽, 클라우드 지출 확대와 기업용 소프트웨어 출시
-앤트로픽은 최근 Microsoft와 Google을 통해 2033년까지 사용할 클라우드 서버에 기존 계획보다 약 100억달러를 추가 지출하기로 약정

-스프레드시트, 프레젠테이션, 노트 작성 등 기업용 업무 소프트웨어도 새롭게 출시하며 업무용 AI 시장 공략 확대

-모델 성능 개선과 AI 연구 자동화가 빨라지는 동시에 컴퓨팅 투자와 실제 업무영역 확장도 함께 가속되는 모습

https://www.theinformation.com/articles/anthropic-others-warn-ai-acceleration
Відкрити пост в Telegram