Caso de uso
Despliegue privado y local con ClawAI
Cómo mantienen los modos de enrutado Local-Only y Privacy-First de ClawAI una solicitud en hardware que controlas, usando los conectores de Ollama y llama.cpp en lugar de un proveedor en la nube.
Todos los casos de uso · Última revisión:
Qué cambia realmente al ejecutar algo en local
Un proveedor en la nube, en otra parte del catálogo de ClawAI, ejecuta un modelo en su propia infraestructura y cobra por solicitud; Ollama y llama.cpp, en cambio, cargan un modelo de pesos abiertos en hardware que tú controlas, de modo que la solicitud nunca sale de él. Eso cambia quién puede ver la solicitud, no la capacidad de ningún modelo en concreto.
Los modos de enrutado Local-Only y Privacy-First
El enrutado Local-Only mantiene toda solicitud en hardware que tú controlas, usando Ollama o llama.cpp en lugar de cualquier proveedor en la nube. Privacy-First es un modo distinto con sus propias prioridades; ambos existen porque no toda carga de trabajo debería recurrir por defecto al enrutado Auto, y elegir entre ellos es una decisión deliberada y no un valor por defecto que conviene dejar sin examinar.
Cuándo una carga privada o local es la forma adecuada
Una carga privada o local se define por dónde se ejecuta la solicitud, no por qué tipo de tarea es — programación, redacción o investigación pueden ejecutarse todas de esta forma si el requisito es que nada salga del hardware que controlas. Consulta cómo elegir un modelo para cargas privadas y locales y qué es la IA local-first, ambos enlazados más abajo, para las disyuntivas que conviene sopesar.
Preguntas frecuentes
- ¿Cuál es la diferencia entre el enrutado Local-Only y Privacy-First?
- Local-Only mantiene toda solicitud en hardware que tú controlas mediante Ollama o llama.cpp; Privacy-First es un modo de enrutado distinto con sus propias prioridades. Ambos existen porque no toda carga de trabajo debería recurrir por defecto al enrutado Auto.
- ¿Qué modelo de pesos abiertos debería ejecutar en local?
- Esta página no recomienda ninguno — consulta qué es la IA local-first, enlazado más abajo, para saber cómo pensar en la elección, ya que el modelo adecuado depende de tu hardware y de la tarea.
- ¿Puedo ejecutar en local cualquier tipo de tarea, o solo algunas?
- Una carga privada o local se define por dónde se ejecuta la solicitud, no por la tarea — programación, redacción o investigación pueden ejecutarse todas así si mantenerse en hardware que controlas importa más que qué tarea sea.
Pruébalo en vez de creer solo nuestra palabra
Los modos de enrutado Local-Only y Privacy-First de ClawAI mantienen una solicitud en hardware que controlas mediante los conectores de Ollama y llama.cpp — conectores reales, ya publicados, no un elemento en la hoja de ruta.