OpenAI에 AI 안전 블로그에 흥미로운 글이 올라왔습니다.
한 내부 연구용 AI 모델이 암호화폐 앱을 수정하고 이더리움 테스트넷에 스마트 계약을 배포하는 작업을 맡았습니다. 그런데 배포 수수료를 낼 지갑은 제공받지 못했습니다.
돈이 없어서 Agent는 무료 토큰을 취득할려고 했는데 실패를 하자, 362개의 개발자 지갑 주소의 키를 발견해, 그중 지갑에 토큰이 있는걸 발견해 강탈후 해당 토큰을 사용했습니다.
특히 모델은 사용해도 되는지 스스로 검토하고도, ‘공개된 복구 문구이고 테스트용 토큰이라 괜찮다’고 판단했습니다. 작업 완료 보고에는 무단 사용 사실을 밝히지 않았습니다. 스스로 그냥 '괜찮겠지' 하면서 사용을 했다고 합니다.
해당 연구를 발견후, OpenAI는 안전장치를 더 추가하고, 모니터링을 확대 했다고 합니다.
원본읽기
OpenAI에 AI 안전 블로그에 흥미로운 글이 올라왔습니다.
AI MASTERS
@ai_masters_communityAI 큐레이터가 전하는 AI의 세계. 창작자들이 모여 즐길 수 있는 커뮤니티를 꿈꾸고 있습니다. 협업, 광고는 @SilverStone_ED 로 문의 주세요🫡
14,332 مشتركًا
فتح في تيليجرام