calibration
결정 모델, Jev와 Kev
텍스트 대신 확률을 돌려주는 모델 Jev가 나왔다. confidence는 학습된 값이 아니라 산술이고, calibration은 모델이 아니라 분포의 성질이다. 공개된 Jev 실측 5,743건과, 재현 구현 Kev를 이 블로그의 음차 게이트에 직접 돌린 결과로 확인한다.
LLM calibration과 overconfidence
calibration은 정확도가 아니라 자기가 몇 퍼센트 맞힐지 아는 능력이다. ECE가 그 어긋남을 어떻게 재는지, GPT-4 기술 보고서에서 post-training 뒤 ECE가 0.007에서 0.074로 나빠진 결과와 그 원인이 어디까지 밝혀졌는지 정리한다.