Orquestación
¿Qué es la verificación de respuestas de IA?
Verificar es contrastar una respuesta con algo distinto del modelo que la generó. Por qué la independencia lo es todo y cuánto vale realmente una autocomprobación.
Todas las guías · Última revisión:
La independencia es toda la idea
Si un modelo se inventa un dato por algo de su entrenamiento, preguntarle si ese dato es cierto consulta la misma fuente que lo inventó. La comprobación y el error tienen una causa común, así que la comprobación pasa.
Un verificador útil cambia algo. Otro modelo, una búsqueda contra documentos reales, un compilador, una batería de tests, un validador de esquema. Cuanto más distinto sea el verificador del generador, más puede detectar.
Tipos de verificación, de más débil a más fuerte
Autorrevisión: el modelo relee su respuesta. Barata, y detecta sobre todo formato y contradicciones internas. Revisión cruzada: otro modelo comprueba. Mejor, y detecta errores propios del primero. Recuperación: la afirmación se contrasta con documentos recuperados. Fuerte para afirmaciones factuales. Ejecución: el código corre, el esquema valida, los tests pasan. La más fuerte, y solo disponible donde la respuesta es ejecutable.
El patrón es que la fuerza sigue a la independencia respecto al modelo, y la disponibilidad va al revés: las comprobaciones más fuertes solo existen para ciertos tipos de trabajo.
Verificación y reparación
Un verificador que solo informa del problema te deja donde estabas. En la práctica la verificación se empareja con la reparación: el fallo y su motivo vuelven a un modelo, que produce una respuesta corregida, que se vuelve a comprobar.
Ese bucle necesita un límite. Sin él, un modelo incapaz de arreglar el problema seguirá produciendo variaciones de la misma respuesta equivocada a precio completo.
Preguntas frecuentes
- ¿Sirve de algo pedirle al modelo que se revise?
- Un poco, y sobre todo para incoherencias internas más que para errores factuales. Es la forma más débil de verificación y la más fácil de sobrevalorar.
- ¿La verificación por recuperación es lo mismo que RAG?
- Usan la misma maquinaria en direcciones opuestas. RAG recupera antes de generar, para informar la respuesta. La verificación por recuperación recupera después, para comprobarla.
- ¿Cuántos intentos de reparación son razonables?
- Uno o dos. Si un modelo no lo ha arreglado en el segundo, los siguientes suelen ser reformulaciones del mismo error y debería mirarlo una persona.
Pruébalo en lugar de leer sobre ello
La verificación y la reparación son dos de los 9 modos de orquestación de ClawAI, y ambas se miden por intento, así que un bucle de reparación no puede generar una factura invisible.