Cas d’usage
Déploiement privé et local avec ClawAI
Comment les modes de routage Local-Only et Privacy-First de ClawAI gardent une requête sur du matériel que vous contrôlez, en utilisant les connecteurs Ollama et llama.cpp plutôt qu’un fournisseur cloud.
Tous les cas d’usage · Dernière relecture:
Ce que change réellement l’exécution locale
Un fournisseur cloud, ailleurs dans le catalogue de ClawAI, exécute un modèle sur sa propre infrastructure et facture par requête ; Ollama et llama.cpp chargent au contraire un modèle à poids ouverts sur du matériel que vous contrôlez, si bien que la requête n’en sort jamais. Cela change qui peut voir la requête, pas ce dont un modèle donné est capable.
Les modes de routage Local-Only et Privacy-First
Le routage Local-Only garde chaque requête sur du matériel que vous contrôlez, via Ollama ou llama.cpp plutôt que via un fournisseur cloud. Le routage Privacy-First est un mode distinct avec ses propres priorités ; les deux existent parce que tous les usages ne doivent pas basculer par défaut sur le routage Auto, et choisir entre eux est une décision délibérée plutôt qu’un réglage par défaut à ne pas examiner.
Quand un usage privé ou local est la bonne approche
Un usage privé ou local se définit par l’endroit où s’exécute la requête, pas par le type de tâche — le code, la rédaction ou la recherche peuvent tous fonctionner de cette façon si l’exigence est que rien ne sorte du matériel que vous contrôlez. Voir choisir un modèle pour des usages privés et locaux et qu’est-ce que l’IA local-first, tous deux liés ci-dessous, pour les arbitrages à peser.
Questions fréquentes
- Quelle est la différence entre le routage Local-Only et Privacy-First ?
- Local-Only garde chaque requête sur du matériel que vous contrôlez via Ollama ou llama.cpp ; Privacy-First est un mode de routage distinct avec ses propres priorités. Les deux existent parce que tous les usages ne doivent pas basculer par défaut sur le routage Auto.
- Quel modèle à poids ouverts exécuter localement ?
- Cette page n’en recommande aucun — voir qu’est-ce que l’IA local-first, lié ci-dessous, pour réfléchir à ce choix, car le modèle adapté dépend de votre matériel et de votre tâche.
- Puis-je exécuter n’importe quel type de tâche localement, ou seulement certaines ?
- Un usage privé ou local se définit par l’endroit où s’exécute la requête, pas par la tâche — le code, la rédaction ou la recherche peuvent tous fonctionner de cette façon si rester sur du matériel que vous contrôlez compte plus que la nature de la tâche.
Essayez plutôt que de nous croire sur parole
Les modes de routage Local-Only et Privacy-First de ClawAI gardent une requête sur du matériel que vous contrôlez via les connecteurs Ollama et llama.cpp — des connecteurs réels et déployés, pas un élément de feuille de route.