Что такое ИИ-судья?

Что делает судья

Судья получает исходный вопрос и два или более ответа и возвращает ранжирование или оценку, обычно с обоснованием. Это шаг отбора в «лучшем из N» и шаг арбитража, когда модели расходятся.

Привлекательность очевидна: он масштабируется так, как человеческая проверка не может, и намного дешевле человека, которого он заменяет.

Смещения, и они устойчивы

Судьи предпочитают длинные ответы коротким, даже когда короткий полон. Предпочитают уверенные формулировки осторожным, оправданна уверенность или нет. Чувствительны к порядку предъявления вариантов. А модель, которую просят судить собственный вывод, склонна его предпочитать.

Ни одно из этого не тонко, и всё управляемо: перемешайте порядок, берите разные модели как судью и как автора, просите конкретные критерии вместо общего предпочтения. Но управлять надо осознанно, потому что настройка по умолчанию проявляет все четыре.

Судья — не верификатор

Судья сравнивает ответы друг с другом. Он не сравнивает их с действительностью. Получив три неверных ответа, он уверенно их упорядочит, и победитель останется неверным.

Там, где есть внешняя проверка — тесты, схема, поиск, — она сильнее судьи, потому что независима от оцениваемого. Судья — то, чем пользуются, когда такой проверки нет.

Частые вопросы

Должен ли судья быть самой сильной моделью?

Обычно сильной и желательно не той же, что писала варианты. Самопредпочтение реально, и самое дешёвое лекарство — взять другую модель.

Может ли судья оценить один ответ?

Может, но сравнительное суждение надёжнее абсолютной оценки. Модели лучше отвечают на «какой из этих лучше», чем на «это семь или восемь».

Как понять, что судья прав?

Проверяйте его выборочно своим собственным суждением. Если не проверять никогда, вы переместили доверие, а не заслужили его.