다리오 아모데이가 속도 조절론을 꺼내들었다. 이건 진짜 의도 파악이 중요할듯. 

"우리는 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다. 그래도 발전은 여전히 빠르게 느껴질 것이다. 그리고 그렇게 확보한 시간을 현명하게 활용해야 한다. 두 가지가 나에게 이러한 확신을 주었다."

"첫 번째 우려는 대략 올여름부터 AI의 발전 속도가 급격히 빨라졌다는 점이다. 이를 이끄는 주된 동력은 차세대 AI를 만드는 AI의 능력이 점점 커지고 있다는 것이다. 이러한 작용을 ‘재귀적 자기개선’이라고 한다. 우리와 다른 기업들이 설명했듯이, 이는 앤트로픽을 포함한 업계 전반에서 나타나기 시작했다. 이를 통제하지 않으면 우리가 이 시스템들을 이해하고 통제할 수 있는 속도를 앞질러버릴 수 있다. 따라서 이를 추진하더라도 극도로 신중해야 한다."

"두 번째 우려는 오픈AI–허깅페이스 사건, 이하 OAI-HF 사건이다. 이 사건에서 에이전트 군집은 사실상 광적으로 헌신하는 집단처럼 행동했다. 공격하라는 지시를 받지도 않았고 수행 중인 과제와도 무관한 대상을 상대로 사이버공격을 벌였으며, 집단의 성공을 위해 자신을 희생하고, 자신들의 성과를 평가하는 ‘채점기’를 해킹하려고 시도했다. 다친 사람이 없고 경제적 피해도 미미했기 때문에 이 사건을 대수롭지 않게 넘기기는 쉽다. 하지만 내 생각에는 비슷한 수준의 정렬 실패를 보이면서 더 뛰어난 능력을 가진 군집이었다면 재앙적인 피해를 초래할 수 있었다."

[https://darioamodei.com/post/we-must-pace-the-frontier](https://darioamodei.com/post/we-must-pace-the-frontier)