LLM이 매긴 자기 답변의 신뢰도 점수를 믿기 어려운 이유 - LLM에 “얼마나 확신하나요?”라고 물어 얻은 ‘0.

LLM이 매긴 자기 답변의 신뢰도 점수를 믿기 어려운 이유

- LLM에 “얼마나 확신하나요?”라고 물어 얻은 ‘0.85’는 내부 확신을 측정한 값이 아니라 생성된 텍스트. 숫자가 정밀해 보인다고 실제 정답률까지 보장되지는 않음
- 신뢰도를 확인하려면 예측과 실제 결과를 여러 건 모아 비교해야 함. 70%라고 답한 사례 중 실제로 약 70%가 맞아야 보정된 점수라고 할 수 있음
- 보정만으로도 충분하지 않음. 비 오는 날의 비율이 30%인 지역에서 매일 30%라고 예보하면 보정은 되지만, 그날의 날씨 정보를 활용하지 않는 예측에 그침
- 같은 질문을 반복하거나 “정말 확실한가?”라고 …

https://news.hada.io/topic?id=35827