¿Qué es el enrutado de modelos de IA?

Sobre qué decide un enrutador

La mayoría combina unas pocas señales: qué tipo de tarea parece, cuánto ocupa la entrada, cuán sensibles son los datos, con qué rapidez hace falta la respuesta y cuánto se le permite costar.

Esas señales chocan entre sí. El modelo más rápido rara vez es el más fuerte; la opción más privada rara vez es la más capaz. Un enrutador es en realidad una política sobre qué sacrificar, así que los útiles te dejan decir qué te importa en vez de adivinarlo.

Enrutado automático y explícito

El automático lee la petición y decide. Es cómodo y a veces se equivoca, y equivocarse es difícil de detectar si el sistema no te dice qué modelo respondió.

El explícito significa que tú fijas la prioridad —esto que se quede en local, esto que salga barato, para esto usa el mejor razonamiento— y el enrutador la respeta. En la práctica casi todo el mundo quiere las dos: un valor por defecto sensato y poder anularlo para la petición que tiene delante.

Cómo falla el enrutado

Los dos fallos habituales son las degradaciones silenciosas y las decisiones invisibles. Una degradación silenciosa es un enrutador que manda sin avisar tu petición cuidada a un modelo barato. Una decisión invisible es cualquier enrutado que no puedas auditar después.

Ambos se arreglan igual: el sistema debe registrar qué modelo respondió realmente y enseñarlo. Un enrutador que no puedes inspeccionar es indistinguible de uno roto.

Cómo lo hace ClawAI

ClawAI tiene 7 modos de enrutado. Auto lee la petición y elige. Manual fija un modelo. Solo local mantiene toda la cadena en modelos que corren en tu hardware. Privacidad primero prefiere lo local y se niega a salir de ahí en silencio. Los demás inclinan la elección hacia menos latencia, mejor razonamiento o menos coste.

Cada respuesta registra el modelo que la produjo, así que una decisión automática se puede comprobar en lugar de confiar en ella.

Preguntas frecuentes

¿El enrutado empeora la calidad de las respuestas?

Puede, si la política no encaja con la petición. Por eso el modo lo eliges tú y por eso se muestra el modelo que respondió. Un enrutado que ves y puedes anular es un control de coste; uno que no ves es una degradación.

¿Puede un enrutador mantener los datos fuera de la nube por completo?

Solo si se le permite negarse en vez de recurrir a otro sitio. Un modo «solo local» cuya cadena de respaldo llega a un proveedor en la nube no es un control de privacidad. El modo solo local de ClawAI mantiene su cadena en proveedores locales.

¿Merece la pena el enrutado para una sola persona?

Normalmente sí, más por coste que por fiabilidad. Casi cualquier carga individual son sobre todo preguntas rutinarias con unas pocas difíciles; mandar las rutinarias a un modelo más barato es la palanca más grande sobre una factura personal de IA.