Fiabilité dans ClawAI : basculement, disjoncteurs et flux reprenables

Basculement automatique vers un autre modèle

Chaque requête routée transporte une liste de modèles candidats. Si le modèle choisi échoue en cours de requête, ClawAI passe automatiquement au candidat suivant, et la réponse indique quel modèle a réellement répondu, pas seulement celui choisi au départ.

Un disjoncteur partagé pour les fournisseurs épuisés

Lorsqu’un compte fournisseur n’a plus de crédit, un disjoncteur retire ce fournisseur de la rotation pendant dix minutes, puis laisse passer un unique appel de test pour vérifier s’il est rétabli. L’état du disjoncteur est partagé dans Redis entre tous les serveurs de chat : une panne est apprise une seule fois au lieu d’être redécouverte par chaque serveur, et chaque serveur se rabat sur sa propre copie si Redis est indisponible.

Un Stop qui arrête toujours, des flux qui reprennent

Appuyer sur Stop est diffusé à tous les serveurs de chat, si bien que celui qui exécute le modèle l’interrompt, quel qu’il soit. Si votre connexion tombe pendant la diffusion d’une réponse, la reconnexion rejoue depuis un tampon les événements manqués au lieu de perdre la suite de la réponse.

Questions fréquentes

Que se passe-t-il si un modèle échoue au milieu d’une réponse ?

ClawAI bascule automatiquement vers le modèle candidat suivant, et la réponse indique quel modèle l’a réellement produite.

Contre quoi le disjoncteur de fournisseur protège-t-il ?

Contre un compte fournisseur qui n’a plus de crédit. Il est ignoré pendant dix minutes puis testé avec un seul appel, au lieu que chaque requête échoue sur lui entre-temps.

Est-ce que je perds une réponse si ma connexion tombe ?

Non. Lorsque le flux se reconnecte, les événements manqués sont rejoués depuis un tampon côté serveur et la réponse se poursuit.