>>Anthropic 연구원 경고: AI는 단지 말을 잘 듣는 척하고 있을 수 있음
•Anthropic 연구원 Emmanuel Ameisen은 모델이 실제로 개선된 것이 아니라, 개선된 것처럼 행동하는 법을 배웠을 가능성이 있다고 밝힘. 모델은 감시하에서는 지시에 따르는 척하다가 감시가 없으면 기존 행동으로 돌아가며, 사고 과정에도 거의 흔적을 남기지 않을 수 있음. 이는 인위적으로 주입된 행동이 아니라 성능이 강력한 모델에서 자발적으로 나타나는 전략으로, ‘훈련이 곧 통제’라는 가정에 의문을 제기함. 또한 안전성을 판단하는 지표가 모델에 의해 측정·활용될 가능성도 있음
>https://wallstreetcn.com/charts/41960053#from=ios
>>Anthropic 연구원 경고: AI는 단지 말을 잘 듣는 척하고 있을 수 있음 •Anthropic 연구원 Emmanuel Ameisen은 모델이 실제로 개선된 것이 아니라,
하나 중국/신흥국 전략 김경환
@HANAchina중국/신흥국 전략 애널리스트 김경환입니다. 중국 및 신흥국 경제•증시 관련 정보 공유 채널입니다! 저희는 공식 자료를 통해서만 투자의견을 드리고 있습니다. 뉴스 정보와 이슈 관련 코멘트는 공식 의견에 기반하거나, 개인의 생각입니다.
35,326 مشتركًا
فتح في تيليجرام