이에 대한 데이비드 삭스의 반응: 그럼 니들이 알아서 속도 조절해라.
---
다리오는 우리가 “최첨단 AI 발전의 속도를 조절해야 한다”고 썼고, 샘도 동의했다. 내 반응을 의외라고 생각하는 사람들이 있을지도 모르겠다. 좋다. 그렇게 하라.
당신들이 바로 그 최첨단이다. 시장점유율이든, 매출 성장률이든, 모델 성능이든, 합리적인 기준이라면 무엇을 적용하더라도 당신들 두 사람은 최첨단 지능을 양강 독점하고 있다. 게다가 재귀적 자기개선 덕분에 후발주자들과의 격차가 더욱 벌어지고 있다고 주장해온 것도 당신들이다.
나는 당신들이 연구실 안에서 보고 있는 것을 보지 못한다. 아직 공개하지 않은 모델들이 너무 무서워서 스스로 속도를 늦춰야 한다고 생각한다면, 책임 있게 행동하겠다는 당신들의 결정을 지지한다.
하지만 다른 누군가의 허락이 필요한 척하지 말라. 당신들이 카르텔을 형성할 수 있도록 반독점법의 적용을 중단해야 하는 척하지 말라. 제조물책임보다 우선하는 규제당국의 승인 절차가 필요한 척하지 말라. METR이 앤트로픽의 투자자 및 직원들과 얽혀 있는데도 독립적인 기관인 척하지 말라. 아직 최첨단 수준에 도달하지도 않은 경쟁자들을 그 동일한 평가기관들이 감독하고 통제해야 하는 척하지 말라.
무엇보다, 속도를 늦추려는 동기가 순전히 이타적인 것인 척하지 말라. 당신들의 제품이 정말로 심각한 피해를 일으키는 사이버공격을 가능하게 한다면, 당신들은 막대한 제조물책임을 질 위험에 노출된다. 시장은 이미 예측할 수 없거나 허가받지 않은 방식으로 행동하는 모델에 불이익을 주고 있다. 허깅페이스 사건 이후, 오픈AI와 앤트로픽이 순수한 성능을 일부 양보하는 대신 신뢰성과 예측 가능성을 확보하는 것은 그저 사업적으로도 현명한 선택이다. 원한다면 그것을 ‘정렬(alignment)’이라고 불러도 좋다. 하지만 그것은 고객이 원하는 것을 제공하는 일이기도 하다.
최첨단 AI의 발전 속도를 조절하면, 버니 샌더스의 “전부 중단시켜라”보다 더 사려 깊은 규제 논의를 할 여유도 생길 것이다. 당신들도 알다시피 중국이 전 세계적인 합의에 동참할 가능성은 매우 낮으며, 그 점도 고려해야 한다.
그러니 최첨단 AI의 발전 속도를 조절하라. 그 속도를 결정하고 있는 것은 당신들이다. 초지능을 만들지 않는 가장 쉬운 방법은 당신들이 그것을 만들지 않기로 합의하는 것이다. 그 대가로 당신들이 선호하는 규제 체계를 요구한다면, 그것은 대중과 정치 체계를 상대로 한 협박처럼 보일 것이다. 그러니 그냥 실행하라.
그렇게 한다면 다음 논의를 위한 호의와 신뢰를 얻을 수 있을 것이다. 그렇게 하지 않는다면, 우리는 이것 역시 규제 포획을 위한 또 하나의 시도였거나, 선거철을 겨냥한 심리전이었다는 것을 알게 될 것이다.
https://x.com/DavidSacks/status/2098973625252708460