FT) 앤트로픽, AI 에이전트의 거래 성사를 돕기 위해 변호사들에게 손을 내밀다 (부제: 기계가 인간을 대신해 행동할 때의 협상 규칙에 대해 기술 기업들이 고민하지 않을 수 없게

FT) 앤트로픽, AI 에이전트의 거래 성사를 돕기 위해 변호사들에게 손을 내밀다
(부제: 기계가 인간을 대신해 행동할 때의 협상 규칙에 대해 기술 기업들이 고민하지 않을 수 없게 되었습니다)

앤트로픽은 AI 에이전트가 사용자를 대신해 최선의 거래를 이끌어내려면 어떻게 협상해야 하는지라는 새로운 문제를 풀기 위해 로펌들과 논의하고 있습니다. 변호사가 의뢰인을 대리하면서도 공정한 결과를 존중하는 방식을 배우려는 것입니다. 앤트로픽은 상장(IPO)을 앞두고 AI 에이전트 개발을 미래 전략의 중심에 두고 있으며, 메타의 뮤즈와 오픈AI의 닷츠 등 개인 에이전트 제품도 빠르게 확산되고 있습니다. 앤트로픽은 이해관계가 상충하는 에이전트끼리 상호작용할 때의 협상 규범, 협상 중 사람에게 의견을 얼마나 구해야 하는지, 상대 AI를 과도하게 의심하지 않으면서도 어느 정도 경계해야 하는지 등을 검토하고 있습니다. 사용자의 지시 내용과 준수 규칙을 증명하는 서명 문서를 에이전트에게 주는 방안도 논의된 것으로 알려졌습니다.

앤트로픽은 올해 여러 차례 실험을 진행했으며, 9월 직원들이 에이전트를 통해 책을 사고판 실험에서는 무자비하게 협상하도록 지시받은 에이전트가 약간 더 나은 결과를 얻었고, 협조적인 에이전트는 모든 참가자가 책을 받을 수 있도록 의도적으로 양보하기도 했습니다. 하버드 비즈니스 스쿨의 미셸 바카로 교수는 18만 건이 넘는 에이전트 간 협상을 분석해 프롬프트 인젝션으로 상대에게서 비공개 정보를 빼내려는 등 새로운 전술을 확인했습니다. 바카로 교수는 고성능 모델이 협상 전문성을 누구에게나 제공할 수 있는 반면, 자원이 많은 쪽만 최상위 에이전트를 쓰게 되면 협상력의 불평등이 더 커질 수 있다고 지적했습니다. 앤트로픽은 이에 대한 논평을 거부했습니다.
https://www.ft.com/content/f7c26ac0-f5f2-443a-86b2-39d62f7920a9?syn-25a6b1a6=1