평가자 간 신뢰도는 동일한 응답을 평가하는 여러 심사관 간의 일치 정도를 측정합니다. 높은 일치도는 점수가 안정적이고 재현 가능함을 의미하며, 낮은 일치도는 심사관들의 의견이 갈리는 모호한 응답임을 나타냅니다.
심사단의 일치도 측정하기
AI 심사단이 응답을 평가할 때, 심사관들이 서로 동의하는지 아는 것이 중요합니다. 평가자 간 신뢰도는 이 일치도를 수치화합니다: 일치도가 높을수록 점수를 더 신뢰할 수 있습니다. AGS에서는 각 감사마다 이 계수(내부적으로 GRC라고 부름)를 공개합니다.
어디에 쓰일까요?
- 신뢰: 강한 일치도를 바탕으로 한 점수는 견고합니다.
- 경고 신호: 뚜렷한 불일치는 검토가 필요한 모호한 응답이나 경계 사례를 드러냅니다.
투명성
신뢰구간과 함께, 평가자 간 신뢰도는 각 측정의 견고함과 한계를 보여주기 위해 저희가 공개하는 지표 중 하나입니다. 자세한 내용은 AGS 방법론을 참고하세요.
AI 답변에서 브랜드는 6번 중 1번만 나타납니다. 귀사는 나타납니까?
답변에 귀사의 이름이 없는 ChatGPT에 대한 모든 질문은 귀사 대신 추천되는 경쟁사입니다 — 6,820개의 실제 AI 답변에서 측정되었습니다.